Przenoszenie średniej postgresql

W bazie danych transakcji obejmującej 1.000 podmiotów w okresie powyżej 18 miesięcy, chciałbym wysłać zapytanie, aby pogrupować każdy możliwy 30-dniowy okres przez entityid z SUMĄ ich kwot transakcji i COUNT ich transakcji w tym 30-dniowym okresie, i zwróć dane w taki sposób, żebym mógł następnie zapytać. Po wielu testach ten kod spełnia wiele z moich potrzeb: użyję go w większym zapytaniu zorganizowanym w stylu: Przypadek, którego dotyczy to zapytanie, nie ma znaczenia, gdy transakcja będzie obejmowała wiele miesięcy, ale nadal będzie w ciągu 30 dni siebie nawzajem. Czy ten typ zapytania jest możliwy z Postgres Jeśli tak, to z przyjemnością przyjmuję wszelkie dane wejściowe. Wiele innych tematów omawia uruchamianie agregacji, a nie zwijanie. Skrypt CREATE TABLE: Idealny wynik obejmowałby SUM (ilość) i COUNT () wszystkich transakcji w ciągu 30-dniowego okresu. Zobacz ten obraz, na przykład: zielone podświetlenie daty wskazuje, co jest uwzględnione w moim zapytaniu. Podświetlanie żółtym wierszem wskazuje, co chciałbym stać się częścią zestawu. Przez każdy możliwy 30-dniowy okres przez entityid masz na myśli, że okres może się rozpocząć każdego dnia, więc 365 możliwych okresów w (nie-skoku) roku Czy chcesz tylko rozważyć dni z faktyczną transakcją jako początek okresu indywidualnie dla każdego entityid. W obu przypadkach podaj definicję tabeli, wersję Postgres, kilka przykładowych danych i oczekiwany wynik dla próbki. ndash Erwin Brandstetter Jul 20 15 o 7:18 Teoretycznie miałem na myśli każdy dzień, ale w praktyce nie ma potrzeby rozważania dni, w których nie ma transakcji. I39ve opublikował przykładowe dane i definicję tabeli. ndash tufelkinder Jul 20 15 at 14:50 Więc chcesz zgromadzić wiersze tego samego entityid w 30-dniowym oknie zaczynającym się od każdej faktycznej transakcji. Czy może istnieć wiele transakcji dla tego samego (transdate, entityid) lub czy ta kombinacja jest zdefiniowana jako unikalna Definicja twojej tabeli nie ma ograniczeń UNIQUE lub PK, ale wydaje się, że brakuje więzów. ndash Erwin Brandstetter Jul 20 15 o 15:44 Zapytanie, które masz Możesz uprościć zapytanie używając klauzuli WINDOW, ale to tylko skraca składnię, nie zmieniając planu zapytania. Również za pomocą nieco szybszego liczenia (). ponieważ id jest z pewnością zdefiniowany NOT NULL I nie musisz ORDER BY entityid, ponieważ już PARTYZJA by entityid Możesz uprościć dalej: Nie dodawaj ORDER BY do definicji okna w ogóle, nie jest to istotne dla twojego zapytania. Wtedy nie musisz definiować niestandardowej ramki okna, albo: Prostsze, szybsze, ale wciąż tylko lepszą wersję tego, co masz. z miesiącami statycznymi. Zapytanie, które może być potrzebne, nie jest jasno zdefiniowane, więc wykorzystuję te założenia: Licz transakcje i kwoty za każdy 30-dniowy okres w ramach pierwszej i ostatniej transakcji dowolnego podmiotu. Wyklucz okresy początkowe i końcowe bez aktywności, ale obejmują wszystkie możliwe 30-dniowe okresy w tych granicach zewnętrznych. Zawiera listę wszystkich 30-dniowych okresów dla każdego podmiotu z twoimi zbiorami oraz z transdatem będącym pierwszym dniem (włącznie) okresu. Aby uzyskać wartości dla każdego pojedynczego wiersza, dołącz ponownie do tabeli podstawowej. Podstawowa trudność jest taka sama, jak omówiono tutaj: Definicja ramki okna nie może zależeć od wartości bieżącego wiersza. Zapytanie, które faktycznie chcesz Po aktualizacji pytania i dyskusji: Nagrywaj wiersze tego samego entityid w 30-dniowym oknie zaczynającym się od każdej faktycznej transakcji. Ponieważ twoje dane są rozłożone rzadko, powinno być bardziej wydajne uruchamianie samołączenia z warunkiem zasięgu. tym bardziej, że Postgres 9.1 nie ma połączeń LATERALNYCH, jednak: ruchome okno może mieć sens tylko w odniesieniu do wydajności przez większość dni. Nie agreguje to duplikatów w dniu (transdate, entityid) dziennie, ale wszystkie wiersze tego samego dnia są zawsze uwzględniane w 30-dniowym oknie. W przypadku dużej tabeli taki wskaźnik może pomóc w znacznym stopniu: Ostatnia wartość kolumny jest użyteczna tylko wtedy, gdy z niej pochodzą tylko skany zindeksowane. Opuść to. Ale nie będzie używane, gdy wybierzesz cały stół. Obsługuje kwerendy dla niewielkiego podzbioru. Wersja beta Enodo Score wykorzystuje szeroką gamę publicznie dostępnych interfejsów API i partnerstw do udostępniania danych w celu pozyskiwania danych. Nasze dane demograficzne i ekonomiczne pochodzą z amerykańskiego Biura Spisu Ludności, podczas gdy dane o rynku mieszkaniowym gromadzone są głównie z płatnych źródeł i partnerstw opartych na wymianie danych z liderami branży. Dokładamy wszelkich starań, aby oczyścić, ustandaryzować i sformatować te dane, zanim zostaną użyte do analizy predykcyjnej. Wraz z rozwojem platformy większa część naszych danych będzie pochodzić bezpośrednio od użytkowników poprzez bezpośrednie przesyłanie i integrację oprogramowania do zarządzania nieruchomościami, zapewniając spójność i dokładność informacji. Baza danych Enodo Scores służy do zbierania danych o operacjach nieruchomości, a także danych o korzystaniu z samej platformy lub danych meta od każdego użytkownika. Dane te są następnie wykorzystywane do szkolenia i udoskonalania naszych algorytmów predykcyjnych. Wiemy, jak ważne są dane dla branży nieruchomości. Dlatego zaprojektowaliśmy naszą platformę do działania w formie CRM opartego na chmurze (np. Salesforce). Wszystkie dane są całkowicie bezpieczne na własnym koncie. Za każdym razem, gdy właściwość jest wgrywana lub analizowana przez użytkownika, tworzona jest kopia tej właściwości z unikalnym identyfikatorem, który jest dostępny tylko z tego konta użytkownika. W przypadku naszych algorytmów prognostycznych konkretne dane pojedynczego użytkownika nie są ważne. Zbiorowe, anonimowe dane od WSZYSTKICH użytkowników to miejsce, w którym znajduje się prawdziwa wartość, i to są dane wykorzystywane przez nasze algorytmy do ciągłego ulepszania prognoz i tworzenia perspektywicznych prognoz rynkowych. Zespół badań danych Enodo uzyskał ponad 93 dokładne prognozy czynszu w zależności od adresu nieruchomości, liczby sypialni, liczby łazienek, powierzchni pomieszczenia, udogodnień (z około 200 różnymi udogodnieniami są rozliczane w kraju) i vs rodzaj własności wielorodzinnej. Zapewniamy tę dokładność, testując nasze prognozy dotyczące danych historycznych i sprawdzając nasze prognozy bezpośrednio z inwestorami, deweloperami i brokerami, którzy działają w branży wielorodzinnej. W oparciu o to, co usłyszeliśmy od zainteresowanych użytkowników, Enodo Score ma szerokie zastosowanie w wielu segmentach tej branży. Oto kilka przykładów: inwestorzy o wartości dodanej - inwestorzy lubią możliwość ilościowego określenia wzrostu do wynajęcia z każdej wygody w inwestycji o wartości dodanej oraz szybkiego analizowania nowych możliwości. Średnio analiza każdej okazji inwestycyjnej wymaga około 4,5 godziny gromadzenia i analizy informacji - proces ten gotujemy mniej niż 10 minut. Deweloperzy - Zdolność do określenia, które rynki będą wykazywać najlepsze wyniki inwestycyjne oraz testowanie różnych pakietów jednostek i pakietów udogodnień na tych rynkach, wydaje się być najważniejszym aspektem produktu dla programistów. Brokerzy - Brokerzy sprzedaży inwestycyjnej lubią analizować strategie dodawania wartości, natychmiastowo wyciągają kompozycje i obiektywnie porównują szanse za pomocą prostego wyniku. Wiele osób wskazało, że chciałyby go użyć, aby wspierać założenia inwestycyjne, gdy składają opinie maklerskie o wartości i oferują memoranda. Kredytodawcy - Wielu pożyczkodawców zwróciło się do nas z prośbą o wykorzystanie Wyniku Enodo w taki sam sposób, w jaki punktacja FICO jest obecnie wykorzystywana do ilościowego określenia ryzyka potencjalnych najemców. Ponieważ wynik Enodo określa ilościowo skorygowane o ryzyko stopy zwrotu, zdecydowanie widzimy potencjał na tym rynku. Rzeczoznawcy - rzeczoznawcy komercyjni często wykorzystują analizę regresji do określenia przyrostowego wpływu różnych atrybutów budynków, ale rzadko z porównywalną dokładnością. Wiele osób wyraziło zainteresowanie wykorzystaniem Enodo Score jako obiektywnego sposobu na zabezpieczenie swoich założeń inwestycyjnych. Aby uzyskać wynik Enodo, nasze czynsze za wynajem oprogramowania, obłożenie, koszty operacyjne i szacowane wartości nieruchomości w oparciu o demograficzną charakterystykę każdego rynku, dyskontują przyszłe przepływy pieniężne dla każdej nieruchomości z powrotem do dnia dzisiejszego po dostosowanej do ryzyka stopie płacy rynkowej, oraz następnie porównuj NPV każdej nieruchomości na podstawie jednostki, oceniając je w skali 1-100 względem innych nieruchomości na tym samym rynku. Wiemy, co myślisz - to brzmi dość prosto. Wierzcie lub nie, jest to dość trudne, aby na bieżąco uzyskiwać wszystkie dane niezbędne do tego celu, nie wspominając już o prognozowaniu tych wartości w oparciu o trendy demograficzne i makroekonomiczne. Ocena Enodo obejmuje każdy rynek w Stanach Zjednoczonych. Stwierdziliśmy, że istnieje wystarczająca ilość danych, aby zastosować nasze algorytmy prognostyczne na każdym rynku, ale jakość i ilość danych dostępnych w głównych obszarach metropolitalnych prowadzi do większej dokładności prognozowania na tych rynkach. Niektóre rynki mają tak mało danych wielorodzinnych, że musimy spojrzeć na inne podobne rynki z wystarczającą ilością danych, aby dokonać dokładnej prognozy. Na szczęście dla naszych klientów rynki o bardzo niewielkiej ilości danych to rynki, na których występuje bardzo mało rozwoju wielorodzinnego. Większość analiz ukończonych na platformie prawdopodobnie będzie w głównych obszarach metropolitalnych, gdzie dane są obfite, a nasze predicitony są najbardziej dokładne. W News UIUX Developer Szukamy programisty UIUX z 3-5 letnim doświadczeniem, aby pomóc w opracowaniu naszej platformy analityki predykcyjnej nieruchomości, Enodo Score. Kandydaci muszą mieć wysoki poziom znajomości projektowania interfejsu użytkownika i tworzenia aplikacji internetowych. Obejmą one analizę biznesową, zbieranie wymagań i dokumentację od interesariuszy biznesowych i klientów, modelowanie szkieletowe, prototypowanie i koordynację rozwoju produktu za pomocą elastycznej metodologii między programistami backendu, naukowcami zajmującymi się danymi i specjalistami z branży nieruchomości, aby dostarczyć cztery wydania funkcji produktu w agresywnym harmonogramie przez cały rok 2017. Niezwykły poziom dbałości o szczegóły jest koniecznością. Idealny kandydat będzie znał najlepsze praktyki, może je dokumentować i może pracować z dynamicznym zespołem, aby zapewnić, że wszystkie projekty UIUX są realizowane zgodnie z tymi standardami. Obowiązki Analizuj wyzwania związane z doświadczeniami użytkowników i twórz rozwiązania projektowe, które spełniają cele biznesowe Analizuj wymagania dotyczące danych aplikacji i domen biznesowych oraz reguł biznesowych, zrozumienie przepływu danych od źródła do ekranu Twórz projekty skoncentrowane na użytkowniku, biorąc pod uwagę analizę rynku, opinie klientów i ustalenia dotyczące użyteczności Rozpoznanie i przewidywanie przypadków użycia i interakcji użytkownika oraz projektowanie intuicyjnych aplikacji wspierających je Architektura informacji i wireframing oraz tworzenie interaktywnych prototypów przed wydaniem nowych funkcji Przyjmuj ogólną odpowiedzialność za projektowanie interfejsu użytkownika, uwzględniając użyteczność, kompleksowe przepływy pracy, stosowanie standardów, używanie różne narzędzia do tworzenia interfejsów graficznych dla aplikacji internetowych Bezpośrednio współpracuj z interesariuszami biznesowymi, klientami, projektantami, programistami, inżynierami i naukowcami zajmującymi się danymi, aby koordynować budowanie aplikacji według specyfikacji i na czas. Bądź na bieżąco z trendami UIUX, a także jako korporacja i przemysł ry standards Weź udział w testowaniu użytkowników i badaniach projektowych, aby uzyskać wgląd w wymagania UIUX Licencjata Licencjat z informatyki lub pokrewnej dziedzinie 3 lata UI UX, grafika i projektowanie wizualne w kontekście korporacyjnym lub agencyjnym. Potrafi konstruktywnie wykorzystywać opinie i powtarzać projekty i pomysły od wielu interesariuszy o różnych opiniach Rozumienie i doświadczenie w procesach projektowania ukierunkowanych na użytkownika Kreatywny myśliciel, który może skutecznie wprowadzać innowacje w dużych pomysłach, a także opracowywać wszystkie szczegóły Z pasją do promowania UX i innowacji Doświadczanie projektów ruchomych dzięki zwinnemu procesowi programowania Doświadczenie w modelowaniu szkieletowym i prototypowaniu Umiejętność posługiwania się narzędziami projektowymi, szkieletowymi i narzędziami do zastosowań Doskonałe umiejętności projektowania interakcji Zdolność szybkiego i wydajnego kodowania w HTML, CSS i JavaScript Dotychczasowe doświadczenia z Vue. js, Leaflet. js, D3.js i innymi bibliotekami wizualizacji danych Doświadczenie z PythonDjango jest plus Umiejętność skutecznego komunikowania się ze wszystkimi zainteresowanymi stronami, tj techniczni programiści, liderzy biznesowi i użytkownicy Portfolio pokazujące twoje umiejętności w zakresie UI i UX jest wymagane w aplikacji CloseFull-Stack Python Developer Enodo Score poszukuje programisty Python, PostgreSQL i HTMLCSSJavaScript z pełną obsługą, aby dołączyć do naszego szybkiego, szczupłego zespołu programistów w sprawie dalszego rozwoju naszej platformy analizy predykcyjnej nieruchomości. Rola obejmie dostarczanie użytkownikom niezawodnych, skalowalnych nowych funkcji, opracowanych w Pythonie przy użyciu frameworków Web2Py i Vue. js. Będziesz współpracować z zespołem programistów, aby zaprojektować i dostarczyć gotowe, wysokiej jakości i atrakcyjne funkcje i produkty na czas. Odpowiedzialność Współpracuj z interdyscyplinarnym zespołem naukowców zajmujących się danymi, inżynierami oprogramowania i specjalistami od nieruchomości, aby projektować, rozwijać, testować i wspierać nowe funkcje Dążenie do wysokiej jakości i szybkiego uzyskiwania wyników dzięki zastosowaniu najlepszych praktyk w zakresie opracowywania oprogramowania, dostosowywania wydajności, testowania, refaktoryzacji, użyteczność i automatyzacja Wsparcie, utrzymanie i pomoc w funkcjonowaniu oprogramowania dokumentowego Utrzymanie standardów kodowania, zgodności i bezpieczeństwa Praca z innymi klientami nad tworzeniem oprogramowania, ulepszeniami, narzędziami wewnętrznymi i problemami z wdrożeniem Konserwacja i bieżące wsparcie wcześniejszych i przyszłych rozwiązań technicznych Proaktywnie poznaj ramy produktowe i podstawę kodu Enodo Score jest firmą startupową i jako takie obowiązki przedstawione powyżej mogą się zmieniać i ewoluować w miarę upływu czasu. Elastyczność, ciekawość, postawa przedsiębiorcza i silna etyka pracy mają zasadnicze znaczenie dla tej roli. Zachęca się, aby wszyscy członkowie zespołu nieustannie badali nowe technologie i możliwości analityczne, aby ulepszyć platformę. Nasza platforma jest zbudowana na Pythonie i PostgreSQL oraz wykorzystuje framework Web2Py i Vue. js. Każdy opracowany kod będzie musiał być w Pythonie 2.7 i kompatybilny z naszą istniejącą bazą kodową. Wymagania 3 lata Python 2.7 i CSSHTMLJavaScript 2 lata doświadczenia z SQL, z doświadczeniem z wykorzystaniem PostgreSQL Bachelor w Computer Science Master w Computer Science lub pokrewnej dziedzinie plus Doświadczenie z wykorzystaniem GitHub i solidne zrozumienie kontroli wersji oprogramowania Doświadczenie z frameworkami Python jak Django lub Web2Py Doświadczenie w pracy z wysoko rozwiniętą firmą SaaS jest preferowane Zwinna, szczupła lub podobna metodologia projektowania Doświadczenie z Microsoft Azure lub AWS plus Doświadczenie z Vue. js lub innymi frameworkami frontendów Zrozumienie bezpieczeństwa aplikacji internetowych (OWASP) Zmotywowany i zdolny do pracy mały zespół z minimalnym nadzorem Doświadczenie z zakresu analizy danych i analizy predykcyjnej plus ClosePostgreSQL vs. MS SQL Server 0. Co to wszystko o tym, że pracuję jako analityk danych w globalnej firmie świadczącej profesjonalne usługi (o której z pewnością słyszałeś). Robiłem to przez około dziesięć lat. Spędziłem tę dekadę, zajmując się danymi, oprogramowaniem bazodanowym, sprzętem bazodanowym, użytkownikami baz danych, programistami baz danych i metodami analizy danych, więc znam się na tych rzeczach. Często spotykam się z ludźmi, którzy niewiele wiedzą o tych rzeczach, chociaż niektórzy z nich nie zdają sobie z tego sprawy. Przez lata omawiałem kwestię PostgreSQL vs. MS SQL Server wiele, wiele razy. Dobrze znana zasada informatyki mówi: jeśli zamierzasz zrobić to więcej niż raz, zautomatyzuj to. Ten dokument jest moim sposobem zautomatyzowania tej rozmowy. O ile nie zaznaczono inaczej, mam na myśli PostgreSQL 9.3 i MS SQL Server 2017, mimo że moje doświadczenie z MS SQL Server jest z wersjami 2008 R2 i 2017 ndash ze względu na uczciwość i trafność Chcę porównać najnowszą wersję PostgreSQL do najnowszej wersji wersja MS SQL Server. Gdzie zgłosiłem roszczenia dotyczące MS SQL Server, zrobiłem co mogłem, aby sprawdzić, czy stosują się do wersji 2017, sprawdzając ndash własnej dokumentacji Microsoftu, chociaż z powodów, które dostanę. Musiałem również polegać w dużej mierze na Google, Stack Overflow i użytkownikach internetu. Wiem, że nie jest to tak rygorystyczne pod względem naukowym, aby dokonać takiego porównania, gdy nie mam równego doświadczenia z obydwoma bazami danych, ale nie jest to akademickie ćwiczenie, które porównuje je do rzeczywistych porównań. Zrobiłem wszystko, co w mojej mocy, aby moje fakty dotyczące MS SQL Server były w porządku, wszyscy wiemy, że nie da się ogłuszyć całego Internetu. Jeśli dowiem się, że coś jest nie tak, naprawię to. Porównuję obie bazy danych z punktu widzenia analityka danych. Może MS SQL Server kopie tyłek PostgreSQL jako backend OLTP (chociaż wątpię w to), ale to nie jest to o czym piszę tutaj, ponieważ nie jestem deweloperem OLTPDBAsysadmin. Wreszcie, w prawym górnym rogu znajduje się adres e-mail. Zrób to, jeśli chcesz, postaram się odpowiedzieć. ZASTRZEŻENIE: wszystkie subiektywne opinie tutaj są wyłącznie moje. 1. Dlaczego PostgreSQL jest o wiele lepszy, niż MS SQL Server? Oops, alert o spoilerach. Ta sekcja jest porównaniem dwóch baz danych pod względem funkcji istotnych dla analityki danych. 1.1. Obsługa CSV CSV jest de facto standardowym sposobem przenoszenia uporządkowanych danych (tj. Tabelarycznych). Wszystkie RDBMS mogą zrzucać dane do zastrzeżonych formatów, których nic nie może odczytać, co jest dobre dla kopii zapasowych, replikacji i tym podobnych, ale w ogóle nie ma zastosowania do migracji danych z systemu X do systemu Y. Platforma analizy danych musi być w stanie wyglądać na danych z wielu różnych systemów i wytwarzają produkty wyjściowe, które mogą być odczytywane przez różnorodne systemy. W praktyce oznacza to, że musi on móc szybko i niezawodnie spożywać i wydobywać CSV, powtarzalnie i bezboleśnie. Nie lekceważmy tego: platforma analizy danych, która nie radzi sobie z CSV w sposób trwały, jest zepsutą, bezużyteczną odpowiedzialnością. Obsługa PostgreSQLs CSV jest na najwyższym poziomie. Komendy COPY TO i COPY FROM obsługują specyfikację opisaną w dokumencie RFC4180 (który jest najbliższy oficjalnemu standardowi CSV), jak również mnogość popularnych i niezbyt popularnych odmian i dialektów. Te polecenia są szybkie i niezawodne. Gdy wystąpi błąd, wysyłają pomocne komunikaty o błędach. Co ważne, nie będą one cicho uszkadzać, źle rozumieć ani zmieniać danych. Jeśli PostgreSQL mówi, że twój import działał, to działało poprawnie. Najmniejszy problem i porzuca import i rzuca pomocny komunikat o błędzie. (Może się to wydawać groteskowe lub niewygodne, ale w rzeczywistości jest to przykład dobrze ugruntowanej zasady projektowania: ma to sens: czy wolałbyś dowiedzieć się, że twój import się nie udał teraz, lub miesiąc po tym, kiedy twój klient narzeka, że ​​twoje wyniki są off) MS SQL Server nie może importować ani eksportować pliku CSV. Większość ludzi nie wierzy mi, gdy im to mówię. Następnie, w pewnym momencie, widzą sami. Zwykle obserwują coś takiego: MS SQL Server po cichu obcinając pole tekstowe Serwery MS SQL Serwery przetwarzają kodowanie postępując niewłaściwie MS SQL Server wyrzucając komunikat o błędzie, ponieważ nie rozumie cytowania lub ucieczki (wbrew powszechnej opinii, cytowanie i ucieczka nie są egzotycznymi rozszerzeniami do CSV: są to podstawowe pojęcia w dosłownie każdej czytelnej dla człowieka specyfikacji serializacji danych, nie ufaj nikomu, kto nie wie, co to jest) MS SQL Server eksportuje zepsutą, bezużyteczną dokumentację Microsoft Microsoftu. Jak udało im się skompilować coś tak prostego, jak CSV. Jest to szczególnie kłopotliwe, ponieważ parsery CSV są banalnie łatwe do napisania (napisałem jeden w C i wstawiłem go do PHP rok lub dwa lata temu, ponieważ nie byłem zadowolony z jego natywnej obsługi CSV Cała sprawa zabrała prawdopodobnie 100 linii kodu i 3 godziny ndash, z których dwa zostały wydane na opanowanie SWIG-a, co było dla mnie nowością w tym czasie). Jeśli mi nie wierzysz, pobierz ten poprawnie sformatowany, zgodny z normami plik CSV UTF-8 i użyj MS SQL Server, aby obliczyć średnią długość łańcucha (tj. Liczbę znaków) ostatniej kolumny w tym pliku (ma 50 kolumn) . Dalej, spróbuj. (Odpowiedź, której szukasz, to dokładnie 183.895). Oczywiście, w PostgreSQL ndash jest to banalnie proste, w rzeczywistości najbardziej czasochłonnym bitem jest tworzenie tabeli z 50 kolumnami do przechowywania danych. Złe zrozumienie CSV wydaje się być endemiczne w firmie Microsoft, że ten plik również złamie Access i Excel. Smutne, ale prawdziwe: niektórzy programiści baz danych, których znam, spędzili ostatnio dużo czasu i wysiłku na pisaniu kodu Pythona, który odkaża CSV, aby umożliwić MS SQL Server zaimportowanie go. Nie byli jednak w stanie uniknąć zmiany rzeczywistych danych w tym procesie. To jest tak szalone, jak wydawanie fortuny na program Photoshop, a następnie napisanie niestandardowego kodu, aby otworzyć plik JPEG, ale okazało się, że obraz został nieco zmieniony. 1.2. Ergonomia Każda platforma do analizy danych, o której warto wspomnieć, to Turing complete, co oznacza, że ​​dajesz lub bierzesz, że każdy z nich może zrobić cokolwiek, co każdy inny może zrobić. Nie ma czegoś takiego, jak możesz zrobić X w oprogramowaniu A, ale nie możesz zrobić X w oprogramowaniu B. Możesz zrobić wszystko w czymkolwiek, wszystko, co się zmienia, jest trudne. Dobre narzędzia sprawiają, że rzeczy, których potrzebujesz do robienia prostych, marnych narzędzi, czynią je trudnymi. To, do czego zawsze się sprowadza. (Jest to całkowicie prawdziwe pod względem koncepcyjnym, jeśli nie dosłowne - na przykład żaden RDBMS, którego znam, nie może renderować grafiki 3D, ale każdy z nich może emulować dowolne obliczenia, które może wykonać GPU.) PostgreSQL jest wyraźnie napisany przez ludzi, którzy naprawdę dbają o załatwiać sprawy. MS SQL Server czuje się tak, jakby został napisany przez ludzi, którzy nigdy nie muszą używać MS SQL Server, aby osiągnąć cokolwiek. Oto kilka przykładów na poparcie tego: PostgreSQL obsługuje DROP TABLE IF EXISTS. co jest mądrym i oczywistym sposobem powiedzenia, czy ten stół nie istnieje, nie rób nic, ale jeśli tak, pozbądź się go. Coś takiego: Oto jak to zrobić w MS SQL Server: Tak, to tylko jedna dodatkowa linia kodu, ale zauważ tajemniczy drugi parametr do funkcji OBJECTID. Musisz zastąpić to NV, aby upuścić widok. Jego NP dla procedury przechowywanej. Nie nauczyłem się wszystkich różnych liter dla wszystkich typów obiektów bazy danych (dlaczego powinienem) Zauważ również, że nazwa tabeli jest niepotrzebnie powtarzana. Jeśli koncentracja ześlizguje się na moment, jej martwe jest łatwe do wykonania: Zobacz, co tam się stało Jest to wiarygodne źródło denerwujących, marnujących czas błędów. PostgreSQL obsługuje DROP SCHEMA CASCADE. która upuszcza schemat i wszystkie obiekty bazy danych znajdujące się wewnątrz niego. Jest to bardzo, bardzo ważne dla solidnej metodologii dostarczania danych analitycznych, gdzie odradzanie i odbudowywanie jest podstawową zasadą powtarzalnych, podlegających audytowi, wspólnych prac analitycznych. W MS SQL Server nie ma takiego narzędzia. Musisz ręcznie upuścić wszystkie obiekty w schemacie i we właściwej kolejności. ponieważ jeśli spróbujesz upuścić obiekt, od którego zależy inny obiekt, MS SQL Server po prostu zgłasza błąd. Daje to wyobrażenie o tym, jak kłopotliwy może być ten proces. PostgreSQL obsługuje CREATE TABLE AS. Przykład: oznacza to, że można podświetlić wszystko oprócz pierwszego wiersza i wykonać go, co jest użytecznym i powszechnym zadaniem przy tworzeniu kodu SQL. W MS SQL Server tworzenie tabeli przebiega w ten sposób: Aby wykonać zwykłą instrukcję SELECT, musisz skomentować lub usunąć bit INTO. Tak, komentowanie dwóch linii jest łatwe, nie o to chodzi. Chodzi o to, że w PostgreSQL możesz wykonać to proste zadanie bez modyfikowania kodu i na MS SQL Server, którego nie możesz, i które wprowadza kolejne potencjalne źródło błędów i irytacji. W PostgreSQL możesz wykonać dowolną liczbę instrukcji SQL w jednej partii, o ile zakończyłeś każdą instrukcję średnikiem, możesz wykonać dowolną kombinację zdań, które lubisz. W przypadku wykonywania zautomatyzowanych procesów wsadowych lub powtarzalnych kompilacji danych lub zadań wyjściowych jest to niezwykle ważna funkcja. W MS SQL Server instrukcja CREATE PROCEDURE nie może pojawić się w połowie serii instrukcji SQL. Nie ma na to żadnego powodu, jest to tylko arbitralne ograniczenie. Oznacza to, że dodatkowe ręczne czynności są często wymagane do wykonania dużej partii SQL. Ręczne czynności zwiększają ryzyko i zmniejszają wydajność. PostgreSQL obsługuje klauzulę RETURNING, umożliwiającą UPDATE. INSERT i DELETE instrukcje zwracania wartości z dotkniętych wierszy. To jest eleganckie i użyteczne. MS SQL Server ma klauzulę OUTPUT, która wymaga osobnej definicji zmiennej tabeli do działania. Jest to niewygodne i niewygodne i zmusza programistę do tworzenia i utrzymywania niepotrzebnego kodu standardowego. PostgreSQL obsługuje cytowanie ciągów, jak w przykładzie: jest to niezwykle użyteczne przy generowaniu dynamicznego SQL, ponieważ (a) pozwala użytkownikowi uniknąć żmudnego i zawodnego ręcznego cytowania i ucieczki, gdy literalne łańcuchy są zagnieżdżone i (b), ponieważ edytory tekstu i IDE raczej nie rozpoznawalny jako ogranicznik łańcuchów, podświetlanie składni pozostaje funkcjonalne nawet w dynamicznym kodzie SQL. PostgreSQL pozwala używać języków proceduralnych, po prostu przesyłając kod do silnika bazy danych, w którym piszesz kod proceduralny w Pythonie, Perlu lub R, lub w innym obsługiwanym języku (patrz poniżej) tuż obok twojego SQL, w tym samym skrypcie. Jest to wygodne, szybkie, łatwe do kontrolowania, łatwe do ponownego wykorzystania i tak dalej. W MS SQL Server możesz użyć luźnego, powolnego, niewygodnego języka procedur T-SQL lub możesz użyć języka do złożenia i załadowania go do bazy danych. Oznacza to, że twój kod znajduje się w dwóch oddzielnych miejscach i musisz przejść przez sekwencję ręcznych kroków opartych na GUI, aby go zmienić. Sprawia, że ​​pakowanie wszystkich twoich rzeczy w jedno miejsce staje się trudniejsze i bardziej podatne na błędy. I jest jeszcze wiele innych przykładów. Każda z tych rzeczy, w odosobnieniu, może wydawać się stosunkowo niewielkim uciążliwością, jednak ogólny efekt jest taki, że wykonanie prawdziwej pracy w MS SQL Server jest znacznie trudniejsze i bardziej podatne na błędy niż w PostgreSQL, a analitycy danych poświęcają cenny czas i energię na temat obejść i procesów ręcznych, zamiast skupiać się na rzeczywistym problemie. Aktualizacja: zostało mi wskazane, że jedną z naprawdę przydatnych funkcji MS SQL Server jest to, czego brakuje w PostgreSQL, to możliwość zadeklarowania zmiennych w skryptach SQL. W ten sposób: PostgreSQL cant to zrobić. Chciałbym, żeby tak było, ponieważ istnieje wiele zastosowań tego typu. 1.3. Możesz uruchomić PostgreSQL w Linuksie, BSD itp. (I, oczywiście, Windows) Każdy, kto śledzi rozwój IT, wie, że platforma jest teraz czymś. Obsługa wielu platform jest prawdopodobnie zabójczą cechą Javy, która jest w rzeczywistości nieco nierównym, brzydkim językiem programowania, ale mimo to ogromnie udana, wpływowa i rozpowszechniona. Microsoft nie ma już monopolu na pulpicie, dzięki rozwojowi Linuksa i Apple. Infrastruktura IT jest coraz bardziej heterogeniczna dzięki elastyczności usług w chmurze i łatwemu dostępowi do wydajnej technologii wirtualizacji. Wieloplatformowe oprogramowanie polega na zapewnieniu użytkownikom kontroli nad ich infrastrukturą. (W pracy aktualnie zarządzam kilkoma bazami danych PostgreSQL, niektórymi w Windows i niektórymi w systemie Ubuntu Linux.) Ja i moi koledzy swobodnie przenosimy kod i zrzuty baz danych między nimi. Używamy Python i PHP, ponieważ działają one również w obu systemach operacyjnych. .) Polityka Microsoftu jest i zawsze była blokowana przez dostawcę. Nie otwierają kodu źródłowego, nie dostarczają wieloplatformowych wersji swojego oprogramowania, a nawet wymyślili cały ekosystem. NET, zaprojektowany w celu wytyczenia twardej linii między użytkownikami Microsoft i użytkownikami spoza Microsoft. Jest to dobre dla nich, ponieważ chroni ich dochody. To jest złe dla ciebie, użytkownika, ponieważ ogranicza twoje wybory i tworzy niepotrzebną pracę dla ciebie. (Aktualizacja: kilka dni po opublikowaniu tego, Microsoft sprawił, że wyglądałem jak prat, ogłaszając, że jest to open-sourcing.) To świetny krok, ale nie dajmy się jeszcze otworzyć Bollingerowi.) Teraz to nie jest Dokument Linux vs. Windows, chociaż jestem pewien, że w końcu dopisze jeden z nich w pewnym momencie. Wystarczy powiedzieć, że dla prawdziwej pracy informatycznej Linux (i rodzina podobna do UNIX: Solaris, BSD itp.) Pozostawia Windows w kurzu. Systemy operacyjne typu UNIX dominują na rynku serwerów, usługach w chmurze, superkomputerach (w tym obszarze jest prawie monopolistą) i komputerach technicznych, a z dobrego powodu, systemy te są zaprojektowane przez techników dla techników. W rezultacie wymieniają przyjazność dla użytkownika za olbrzymią moc i elastyczność. Odpowiedni system operacyjny typu UNIX nie jest po prostu ładną linią poleceń. Jest to ekosystem programów, narzędzi, funkcjonalności i wsparcia, dzięki którym praca staje się wydajna i przyjemna. Kompetentny haker linuksowy może osiągnąć w jednej linii wyrzuconej skryptu Bash zadanie, które byłoby uciążliwe i czasochłonne w systemie Windows. (Przykład: pewnego dnia przeglądałem kolekcję filmową przyjaciół i powiedział, że uważa, że ​​całkowita liczba plików w systemie plików była wysoka, biorąc pod uwagę, ile filmów miał i zastanawiał się, czy przypadkiem nie skopiował dużego folderu W jednym z jego folderów filmowych zrobiłem rekursywną liczbę plików-na-folderów dla niego w następujący sposób: Całość zajęła około minuty, aby napisać i sekundę do uruchomienia. Twierdził, że niektóre z jego folderów miały problem i powiedziano mu, jakie one były. Jak by to zrobić w Windows) Do analizy danych, RDBMS nie istnieje w próżni, jest częścią stosu narzędzi. Dlatego jego środowisko ma znaczenie. MS SQL Server jest ograniczony do systemu Windows, a Windows to po prostu kiepskie środowisko analityczne. 1.4. Funkcje językowe proceduralne To jest biggie. Czysty deklaratywny SQL jest dobry w tym, co zostało zaprojektowane do manipulacji danymi ndash i zapytaniami. Szybko osiągasz swoje granice, jeśli spróbujesz użyć go do bardziej zaangażowanych procesów analitycznych, takich jak złożone obliczenia odsetek, analiza szeregów czasowych i ogólny projekt algorytmu. Dostawcy baz danych SQL wiedzą o tym, więc prawie wszystkie bazy danych SQL implementują pewien rodzaj języka proceduralnego. Dzięki temu użytkownik bazy danych może napisać kod typu imperatywnego dla bardziej złożonych lub skomplikowanych zadań. Obsługa języka procedurowego PostgreSQL jest wyjątkowa. Niemożliwe jest oddać mu sprawiedliwość w krótkim czasie, ale jest próbka towarów. Dowolny z tych języków proceduralnych może być używany do zapisywania przechowywanych procedur i funkcji lub po prostu wrzucony do bloku kodu do wykonania w linii. PLPGSQL: jest to rodzimy język proceduralny PostgreSQL. Jest jak Oracles PLSQL, ale bardziej nowoczesny i kompletny. PLV8: silnik JavaScript V8 z Google Chrome jest dostępny w PostgreSQL. Ten silnik jest stabilny, bogaty w funkcje i absurdalnie szybki ndash, często zbliżając się do szybkości wykonywania skompilowanego, zoptymalizowanego C. Połącz to z natywną obsługą PostgreSQL dla typu danych JSON (zobacz poniżej) i masz najwyższą moc i elastyczność w jednym pakiecie. Jeszcze lepiej, PLV8 obsługuje stan globalny (to jest stan połączenia krzyżowego), umożliwiając użytkownikowi selektywne buforowanie danych w pamięci RAM dla szybkiego losowego dostępu. Załóżmy, że musisz użyć 100 000 wierszy danych z tabeli A na każdy z 1 000 000 wierszy danych z tabeli B. W tradycyjnym SQL musisz albo dołączyć do tych tabel (co spowoduje tabelę pośrednią o wielkości 100 miliardów, która zabije każdą, ale najbardziej immense server) or do something akin to a scalar subquery (or, worse, cursor-based nested loops), resulting in crippling IO load if the query planner doesnt read your intentions properly. In PLV8 you simply cache table A in memory and run a function on each of the rows of table B ndash in effect giving you RAM-quality access (negligible latency and random access penalty no non-volatile IO load) to the 100k-row table. I did this on a real piece of work recently ndash my PostgreSQLPLV8 code was about 80 times faster than the MS T-SQL solution and the code was much smaller and more maintainable. Because it took about 23 seconds instead of half an hour to run, I was able to run 20 run-test-modify cycles in an hour, resulting in feature-complete, properly tested, bug-free code. Look here for more detail on this. (All those run-test-modify cycles were only possible because of DROP SCHEMA CASCADE and freedom to execute CREATE FUNCTION statements in the middle of a statement batch, as explained above. See how nicely it all fits together) PLPython: you can use full Python in PostgreSQL. Python2 or Python 3, take your pick, and yes, you get the enormous ecosystem of libraries for which Python is justifiably famous. Fancy running a SVM from scikit-learn or some arbitrary-precision arithmetic provided by gmpy2 in the middle of a SQL query No problem PLPerl: Perl has been falling out of fashion for some time, but its versatility earned it a reputation as the Swiss army knife of programming languages. In PostgreSQL you have full Perl as a procedural language. PLR: R is the de facto standard statistical programming environment in academia and data science, and with good reason - it is free, robust, fully-featured and backed by an enormous library of high-quality plugins and add-ons. PostgreSQL lets you use R as a procedural language. Java, Lua, sh, Tcl, Ruby and PHP are also supported as procedural languages in PostgreSQL. C: doesnt quite belong in this list because you have to compile it separately, but its worth a mention. In PostgreSQL it is trivially easy to create functions which execute compiled, optimised C (or C or assembler) in the database backend. This is a power user feature which provides unrivalled speed and fine control of memory management and resource usage for tasks where performance is critical. I have used this to implement a complex, stateful payment processing algorithm operating on a million rows of data per second ndash and that was on a desktop PC. MS SQL Servers inbuilt procedural language (part of their T-SQL extension to SQL) is clunky, slow and feature-poor. It is also prone to subtle errors and bugs, as Microsofts own documentation sometimes acknowledges. I have never met a database user who likes the T-SQL procedural language. What about the fact that you can make assemblies in languages and then use them in MS SQL Server This doesnt count as procedural language support because you cant submit this code to the database engine directly. Manageability and ergonomics are critically important. Inserting some Python code inline in your database query is easy and convenient firing up Visual Studio, managing projects and throwing DLL files around (all in GUI-based processes which cannot be properly scripted, version-controlled, automated or reviewed) is awkward, error-prone and non-scalable. In any case, this mechanism is limited to languages. 1.5. Native regular expression support Regular expressons (regexen or regexes) are as fundamental to analytics work as arithmetic ndash they are the first choice (and often only choice) for a huge variety of text processing tasks. A data analytics tool without regex support is like a bicycle without a saddle ndash you can still use it, but its painful. PostgreSQL has smashing out-of-the-box support for regex. Some examples: Get all lines starting with a repeated digit followed by a vowel: Get the first isolated hex string occurring in a field: Break a string on whitespace and return each fragment in a separate row: Case-insensitively find all words in a string with at least 10 letters: MS SQL Server has LIKE. SUBSTRING. PATINDEX and so on, which are not comparable to proper regex support (if you doubt this, try implementing the above examples using them). There are third-party regex libraries for MS SQL Server theyre just not as good as PostgreSQLs support, and the need to obtain and install them separately adds admin overhead. Note also that PostgreSQLs extensive procedural language support also gets you several other regex engines and their various features - e. g. Pythons regex library provides the added power of positive and negative lookbehind assertions. This is in keeping with the general theme of PostgreSQL giving you all the tools you need to actually get things done. 1.6. Custom aggregate functions This is a feature that, technically, is offered by both PostgreSQL and MS SQL Server. The implementations differ hugely, though. In PostgreSQL, custom aggregates are convenient and simple to use, resulting in fast problem-solving and maintainable code: Elegant, eh A custom aggregate is specified in terms of an internal state and a way to modify that state when we push new values into the aggregate function. In this case we start each customer off with zero balance and no interest accrued, and on each day we accrue interest appropriately and account for payments and withdrawals. We compound the interest on the 1st of every month. Notice that the aggregate accepts an ORDER BY clause (since, unlike SUM. MAX and MIN. this aggregate is order-dependent) and PostgreSQL provides operators for extracting values from JSON objects. So, in 28 lines of code weve created the framework for monthly compounding interest on bank accounts and used it to calculate final balances. If features are to be added to the methodology (e. g. interest rate modifications depending on debitcredit balance, detection of exceptional circumstances), its all right there in the transition function and is written in an appropriate language for implementing complex logic. (Tragic side-note: I have seen large organisations spend tens of thousands of pounds over weeks of work trying to achieve the same thing using poorer tools.) MS SQL Server, on the other hand, makes it absurdly difficult . Incidentally, the examples in the second link are for implementing a simple string concatenation aggregate. Note the huge amount of code and gymnastics required to implement this simple function (which PostgreSQL provides out of the box, incidentally. Probably because its useful). MS SQL Server also does not allow an order to be specified in the aggregate, which renders this function useless for my kind of work ndash with MS SQL Server, the order of string concatenation is random, so the results of a query using this function are non-deterministic (they might change from run to run) and the code will not pass a quality review. The lack of ordering support also breaks code such as the interest calculation example above. As far as I can tell, you just cant do this using an MS SQL Server custom aggregate. (It is actually possible to make MS SQL Server do a deterministic string concatenation aggregation in pure SQL but you have to abuse the RECURSIVE query functionality to do it. Although an interesting academic exercise, this results in slow, unreadable, unmaintainable code and is not a real-world solution). 1.7. Unicode support Long gone are the days when ASCII was universal, character and byte were fungible terms and foreign (from an Anglocentric standpoint) text was an exotic exception. Proper international language support is no longer optional. The solution to all this is Unicode. There are a lot of misconceptions about Unicode out there. Its not a character set, its not a code page, its not a file format and its nothing whatsoever to do with encryption. An exploration of how Unicode works is fascinating but beyond the scope of this document ndash I heartily recommend Googling it and working through a few examples. The key points about Unicode that are relevant to database functionality are: Unicode-encoded text (for our purposes this means either UTF-8 or UTF-16) is a variable-width encoding. In UTF-8 a character can take one, two, three or four bytes to represent. In UTF-16 its either two or four. This means that operations like taking substrings and measuring string lengths need to be Unicode-aware to work properly. Not all sequences of bytes are valid Unicode. Manipulating valid Unicode without knowing its Unicode is likely to produce something that is not valid Unicode. UTF-8 and UTF-16 are not compatible. If you take one file of each type and concatenate them, you (probably) end up with a file which is neither valid UTF-8 nor valid UTF-16. For text which mostly fits into ASCII, UTF-8 is about twice as space-efficient as UTF-16. PostgreSQL supports UTF-8. Its CHAR. VARCHAR and TEXT types are, by default, UTF-8, meaning they will only accept UTF-8 data and all the transformations applied to them, from string concatenation and searching to regular expressions, are UTF-8-aware. It all just works. MS SQL Server 2008 does not support UTF-16 it supports UCS-2, a deprecated subset of UTF-16. What this means is that most of the time, it will look like its working fine, and occasionally, it will silently corrupt your data. Since it interprets text as a string of wide (i. e. 2-byte) characters, it will happily cut a 4-byte UTF-16 character in half. At best, this results in corrupted data. At worst, something else in your toolchain will break badly and youll have a disaster on your hands. Apologists for MS are quick to point out that this is unlikely because it would require the data to contain something outside Unicodes basic multilingual plane. This is completely missing the point. A databases sole purpose is storing, retreiving and manipulating data. A database which can be broken by putting the wrong data in it is as useless as a router that breaks if you download the wrong file. MS SQL Server versions since 2017 have supported UTF-16 properly, if you ensure you select a UTF-16-compliant collation for your database. It is baffling that this is (a) optional and (b) implemented as late as 2017. Better late than never, I suppose. 1.8. Data types that work properly A common misconception is that all databases have the same types ndash INT. CHAR. DATE and so on. To nie jest prawda. PostgreSQLs type system is really useful and intuitive, free of annoyances which introduce bugs or slow work down and, as usual, apparently designed with productivity in mind. MS SQL Servers type system, by comparison, feels like beta software. It cant touch the feature set of PostgreSQLs type system and it is beset with traps waiting to ensnare the unwary user. Lets take a look: CHAR, VARCHAR and family PostgreSQL: the docs actively encourage you to simply use the TEXT type. This is a high-performance, UTF-8 validated text storage type which stores strings up to 1GB in size. It supports all the text operations PostgreSQL is capable of: simple concatenation and substringing regex searching, matching and splitting full-text search casting character transformation and so on. If you have text data, stick it in a TEXT field and carry on. Moreover, since anything in a TEXT field (or, for that matter, CHAR or VARCHAR fields) must be UTF-8, there is no issue with encoding incompatibility. Since UTF-8 is the de facto universal text encoding, converting text to it is easy and reliable. Since UTF-8 is a superset of ASCII, this conversion is often trivially easy or altogether unnecessary. It all just works. MS SQL Server: its a pretty sad story. The TEXT and NTEXT types exist and stretch to 2GB. Bafflingly, though, they dont support casting. Also, dont use them, says MS ndash they will be removed in a future version of MS SQL Server. You should use CHAR. VARCHAR and their N - prefixed versions instead. Unfortunately, VARCHAR(MAX) has poor performance characteristics and VARCHAR(8000) (the next biggest size, for some reason) tops out at 8,000 bytes. (Its 4,000 characters for NVARCHAR .) Remember how PostgreSQLs insistence on a single text encoding per database makes everything work smoothly Not so in MS-land: As with earlier versions of SQL Server, data loss during code page translations is not reported. link In other words, MS SQL Server might corrupt your data, and you wont know about it until something else goes wrong. This is, quite simply, a deal-breaker. A data analytics platform which might silently change, corrupt or lose your data is an enormous liability. Consider the absurdity of forking out for a server using expensive ECC RAM as a defence against data corruption caused by cosmic rays, and then running software on it which might corrupt your data anyway. Date and time types PostgreSQL: you get DATE. TIME. TIMESTAMP and TIMESTAMP WITH TIME ZONE. all of which do exactly what you would expect. They also have fantastic range and precision, supporting microsecond resolution from the 5th millennium BC to almost 300 millennia in the future. They accept input in a wide variety of formats and the last one has full support for time zones. They can be converted to and from Unix time, which is very important for interoperability with other systems. They can take the special values infinity and - infinity. This is not a metaphysico-theologico-philosophical statement, but a hugely useful semantic construction. For example, set a users password expiry date to infinity to denote that they do not have to change their password. The standard way of doing this is to use NULL or some date far in the future, but these are clumsy hacks ndash they both involve putting inaccurate information in the database and writing application logic to compensate. What happens when a developer sees NULL or 3499-12-31. If youre lucky, he knows the secret handshakes and isnt confused by it. If not, he assumes either that the date is unknown or that it really does refer to the 4th millennium, and you have a problem. The cumulative effect of hacks, workarounds and kludges like this is unreliable systems, unhappy programmers and increased business risk. Helpful semantics like infinity and - infinity allow you to say what you mean and write consistent, readable application logic. They also support the INTERVAL type, which is so useful it has its own section right after this one. Casting and conversion of date and time types is easy and intuitive - you can cast any type to TEXT. and the tochar and totimestamp functions give you ultimate flexibility, allowing conversion in both directions using format strings. For example: and, going in the other direction, As usual, it just works. As a data analyst, I care very much about a databases date-handling ability, because dates and times tend to occur in a multitude of different formats and they are usually critical to the analysis itself. MS SQL Server: dates can only have positive 4-digit years, so they are restricted to 0001 AD to 9999 AD. They do not support infinity and - infinity. They do not support interval types, so date arithmetic is tedious and clunky. You can convert them to and from UNIX time, but its a hack involving adding seconds to the UNIX epoch, 1970-01-01T00:00:00Z, which you therefore have to know and be willing to hardcode into your application. Date conversion deserves a special mention, because even by MS SQL Servers shoddy standards its bloody awful. The CONVERT function takes the place of PostgreSQLs tochar and totimestamp. but it works like this: Thats right ndash youre simply expected to know that 126 is the code for converting strings in that format to a datetime. MSDN provides a table of these magic numbers. I didnt give the same example as for PostgreSQL because I couldnt find a magic number corresponding to the right format for Saturday 03 Feb 2001. If someone gave you data with such dates in it, I guess youd have to do some string manipulation (pity the string manipulation facilities in MS SQL Server are almost non-existent. ) PostgreSQL: the INTERVAL type represents a period of time, such as 30 microseconds or 50 years. It can also be negative, which may seem counterintuitive until you remember that the word ago exists. PostgreSQL also knows about ago, in fact, and will accept strings like 1 day ago as interval values (this will be internally represented as an interval of -1 days). Interval values let you do intuitive date arithmetic and store time durations as first-class data values. They work exactly as you expect and can be freely casted and converted to and from anything which makes sense. MS SQL Server: no support for interval types. PostgreSQL: arrays are supported as a first-class data type, meaning fields in tables, variables in PLPGSQL, parameters to functions and so on can be arrays. Arrays can contain any data type you like, including other arrays. This is very, very useful . Here are some of the things you can do with arrays: Store the results of function calls with arbitrarily-many return values, such as regex matches Represent a string as integer word IDs, for use in fast text matching algorithms Aggregation of multiple data values across groups, for efficient cross-tabulation Perform row operations using multiple data values without the expense of a join Accurately and semantically represent array data from other applications in your tool stack Feed array data to other applications in your tool stack I cant think of any programming languages which dont support arrays, other than crazy ones like Brainfuck and Malbolge. Arrays are so useful that they are ubiquitous. Any system, especially a data analytics platform, which doesnt support them is crippled. MS SQL Server: no support for arrays. PostgreSQL: full support for JSON, including a large set of utility functions for transforming between JSON types and tables (in both directions), retreiving values from JSON data and constructing JSON data. Parsing and stringification are handled by simple casts, which as a rule in PostgreSQL are intelligent and robust. The PLV8 procedural language works as seamlessly as you would expect with JSON ndash in fact, a JSON-type internal state in a custom aggregate (see this example) whose transition function is written in PLV8 provides a declarativeimperative best-of-both-worlds so powerful and convenient it feels like cheating. JSON (and its variants, such as JSONB) is of course the de facto standard data transfer format on the web and in several other data platforms, such as MongoDB and ElasticSearch, and in fact any system with a RESTful interface. Aspiring Analytics-as-a-Service providers take note. MS SQL Server: no support for JSON. PostgreSQL: HSTORE is a PostgreSQL extension which implements a fast key-value store as a data type. Like arrays, this is very useful because virtually every high-level programming language has such a concept (and virtually every programming language has such a concept because it is very useful). JavaScript has objects, PHP has associative arrays, Python has dicts, C has std::map and std::unorderedmap. Go has maps. And so on. In fact, the notion of a key-value store is so important and useful that there exists a whole class of NoSQL databases which use it as their main storage paradigm. Theyre called, uh, key-value stores . There are also some fun unexpected uses of such a data type. A colleague recently asked me if there was a good way to deduplicate a text array. Heres what I came up with: i. e. put the array into both the keys and values of an HSTORE, forcing a dedupe to take place (since key values are unique) then retrieve the keys from the HSTORE. Theres that PostgreSQL versatility again. MS SQL Server: No support for key-value storage. Range types PostgreSQL: range types represent, well, ranges. Every database programmer has seen fields called startdate and enddate. and most of them have had to implement logic to detect overlaps. Some have even found, the hard way, that joins to ranges using BETWEEN can go horribly wrong, for a number of reasons. PostgreSQLs approach is to treat time ranges as first-class data types. Not only can you put a range of time (or INT s or NUMERIC s or whatever) into a single data value, you can use a host of built-in operators to manipulate and query ranges safely and quickly. You can even apply specially-developed indices to them to massively accelerate queries that use these operators. In short, PostgreSQL treats ranges with the importance they deserve and gives you the tools to work with them effectively. Im trying not to make this document a mere list of links to the PostgreSQL docs, but just this once, I suggest you go and see for yourself . (Oh, and if the pre-defined types dont meet your needs, you can define your own ones. You dont have to touch the source code, the database exposes methods to allow you to do this.) MS SQL Server: no support for range types. NUMERIC and DECIMAL PostgreSQL: NUMERIC (and DECIMAL - theyre symonyms) is near-as-dammit arbitrary precision: it supports 131,072 digits before the decimal point and 16,383 digits after the decimal point. If youre running a bank, doing technical computation, landing spaceships on comets or simply doing something where you cannot tolerate rounding errors, youre covered. MS SQL Server: NUMERIC (and DECIMAL - theyre symonyms) supports a maximum of 38 decimal places of precision in total. PostgreSQL: XML is supported as a data type and the database offers a variety of functions for working with XML. Xpath querying is supported. MS SQL Server: finally, some good news MS SQL Server has an XML data type too, and offers plenty of support for working with it. (Shame XML is going out of style. ) 1.9. Scriptability PostgreSQL can be driven entirely from the command line, and since it works in operating systems with proper command lines (i. e. everything except Windows), this is highly effective and secure. You can SSH to a server and configure PostgreSQL from your mobile phone, if you have to (I have done so more than once). You can automate deployment, performance-tuning, security, admin and analytics tasks with scripts. Scripts are very important because unlike GUI processes, they can be copied, version-controlled, documented, automated, reviewed, batched and diffed. For serious work, text editors and command lines are king. MS SQL Server is driven through a GUI. I dont know to what extent it can be automated with Powershell I do know that if you Google for help and advice on getting things done in MS SQL Server, you get a lot of people saying right-click on your database, then click on Tasks. . GUIs do not work well across low-bandwidth or high-latency connections text-based shells do. As I write I am preparing to do some sysadmin on a server 3,500 miles away, on a VPN via a shaky WiFi hotspot, and thanking my lucky stars its an UbuntuPostgreSQL box. (Who on Earth wants a GUI on a server anyway) 1.10. Good external language bindings PostgreSQL is very, very easy to connect to and use from programming environments, because libpq, its external API, is very well-designed and very well-documented. This means that writing utilities which plug into PostgreSQL is very easy and convenient, which makes the database more versatile and a better fit in an analytics stack. On many occasions I have knocked up a quick program in C or C which connects to PostgreSQL, pulls some data out and does some heavy calculations on it, e. g. using multithreading or special CPU instructions - stuff the database itself is not suitable for. I have also written C programs which use setuid to allow normal users to perform certain administrative tasks in PostgreSQL. It is very handy to be able to do this quickly and neatly. MS SQL Servers external language bindings vary. Sometimes you have to install extra drivers. Sometimes you have to create classes to store the data you are querying, which means knowing at compile time what that data looks like. Most importantly, the documentation is a confusing, tangled mess, which makes getting this done unnecessarily time-consuming and painful. 1.11. Documentation Data analytics is all about being a jack of all trades. We use a very wide variety of programming languages and tools. (Off the top of my head, the programmingscripting languages I currently work with are PHP, JavaScript, Python, R, C, C, Go, three dialects of SQL, PLPGSQL and Bash.) It is hopelessly unrealistic to expect to learn everything you will need to know up front. Getting stuff done frequently depends on reading documentation. A well-documented tool is more useful and allows analysts to be more productive and produce higher-quality work. PostgreSQLs documentation is excellent. Everything is covered comprehensively but the documents are not merely reference manuals ndash they are full of examples, hints, useful advice and guidance. If you are an advanced programmer and really want to get stuck in, you can also simply read PostgreSQLs source code, all of which is openly and freely available. The docs also have a sense of humour: The first century starts at 0001-01-01 00:00:00 AD, although they did not know it at the time. This definition applies to all Gregorian calendar countries. There is no century number 0, you go from -1 century to 1 century. If you disagree with this, please write your complaint to: Pope, Cathedral Saint-Peter of Roma, Vatican. MS SQL Servers documentation is all on MSDN, which is an unfriendly, sprawling mess. Because Microsoft is a large corporation and its clients tend to be conservative and humourless, the documentation is business appropriate ndash i. e. officious, boring and dry. Not only does it lack amusing references to the historical role of Catholicism in the development of date arithmetic, it is impenetrably stuffy and hidden behind layers of unnecessary categorisation and ostentatiously capitalised official terms. Try this: go to the product documentation page for MS SQL Server 2017 and try to get from there to something useful. Or try reading this gem (not cherry-picked, I promise): A report part definition is an XML fragment of a report definition file. You create report parts by creating a report definition, and then selecting report items in the report to publish separately as report parts. Has the word report started to lose its meaning yet (And, of course, MS SQL Server is closed source, so you cant look at the source code. Yes, I know source code is not the same as documentation, but it is occasionally surprisingly useful to be able to simply grep the source for a relevant term and cast an eye over the code and the comments of the developers. Its easy to think of our tools as magical black boxes and to forget that even something as huge and complex as an RDBMS engine is, after all, just a list of instructions written by humans in a human-readable language.) 1.12. Logging thats actually useful MS SQL Servers logs are spread across several places - error logs, Windows event log, profiler logs, agent logs and setup log. To access these you need varying levels of permissions and you have to use various tools, some of which are GUI-only. Maybe things like Splunk can help to automate the gathering and parsing of these logs. I havent tried, nor do I know anyone else who has. Google searches on the topic produce surprisingly little information, surprisingly little of which is of any use. PostgreSQLs logs, by default, are all in one place. By changing a couple of settings in a text file, you can get it to log to CSV (and since were talking about PostgreSQL, its proper CSV, not broken CSV). You can easily set the logging level anywhere from dont bother logging anything to full profiling and debugging output. The documentation even contains DDL for a table into which the CSV-format logs can be conveniently imported. You can also log to stderr or the system log or to the Windows event log (provided youre running PostgreSQL in Windows, of course). The logs themselves are human-readable and machine-readable and contain data likely to be of great value to a sysadmin. Who logged in and out, at what times, and from where Which queries are being run and by whom How long are they taking How many queries are submitted in each batch Because the data is well-formatted CSV, it is trivially easy to visualise or analyse it in R or PostgreSQL itself or Pythons matplotlib or whatever you like. Overlay this with the wealth of information that Linux utilities like top, iotop and iostat provide and you have easy, reliable access to all the server telemetry you could possibly need. 1.13. Support How is PostgreSQL going to win this one Everyone knows that expensive flagship enterprise products by big commercial vendors have incredible support, whereas free software doesnt have any Of course, this is nonsense. Commercial products have support from people who support it because they are paid to. They do the minimum amount necessary to satisfy the terms of the SLA. As I type this, some IT professionals I know are waiting for a major hardware vendor to help them with a performance issue in a 40,000 server. Theyve been discussing it with the vendor for weeks theyve spent time and effort running extensive tests and benchmarks at the vendors request and so far the vendors reaction has been a mixture of incompetence, fecklessness and apathy. The 40,000 server is sitting there performing very, very slowly, and its users are working 70-hour weeks to try to stay on schedule. Over the years I have seen many, many problems with expensive commercial software ndash everything from bugs to performance issues to incompatibility to insufficient documentation. Sometimes these problems cause a late night or a lost weekend for the user sometimes they cause missed deadlines and angry clients sometimes it goes as far as legal and reputational risk. Every single time, the same thing happens: the problem is fixed by the end users, using a combination of blood, sweat, tears, Google and late nights. I have never seen the vendor swoop to the rescue and make everything OK. So what is the support for PostgreSQL like On the two occasions I have asked the PostgreSQL mailing list for help, I have received replies from Tom Lane within 24 hours. Take a moment to click on the link and read the wiki - the guy is not just a lead developer of PostgreSQL, hes a well-known computer programmer. Needless to say, his advice is as good as advice gets. On one of the occasions, where I asked a question about the best way to implement cross-function call persistent memory allocation, Lane replied with the features of PostgreSQL I should study and suggested solutions to my problem ndash and for good measure he threw in a list of very good reasons why my tentative solution (a C static variable) was rubbish. You cant buy that kind of support, but you can get it from a community of enthusiastic open source developers. Oh, did I mention that the total cost of the database software and the helpful advice and recommendations from the acclaimed programmer was 0.00 Note that by support I mean help getting it to work properly. Some people (usually people who dont actually use the product) think of support contracts more in terms of legal coverage ndash theyre not really interested in whether help is forthcoming or not, but they like that theres someone to shout at and, more importantly, blame. I discuss this too, here . (And if youre really determined to pay someone to help you out, you can of course go to any of the organisations which provide professional support for PostgreSQL. Unlike commercial software vendors, whose support functions are secondary to their main business of selling products, these organisations live or die by the quality of the support they provide, so it is very good.) 1.14. Flexible, scriptable database dumps Ive already talked about scriptability, but database dumps are very important, so they get their own bit here. PostgreSQLs dump utility is extremely flexible, command-line driven (making it easily automatable and scriptable) and well-documented (like the rest of PostgreSQL). This makes database migration, replication and backups ndash three important and scary tasks ndash controllable, reliable and configurable. Moreover, backups can be in a space-effecient compressed format or in plain SQL, complete with data, making them both human-readable and executable. A backup can be of a single table or of a whole database cluster. The user gets to do exactly as he pleases. With a little work and careful selection of options, it is even possible to make a DDL-only plain SQL PostgreSQL backup executable in a different RDBMS. MS SQL Servers backups are in a proprietary, undocumented, opaque binary format. 1.15. Reliability Neither PostgreSQL nor MS SQL Server are crash-happy, but MS SQL Server does have a bizarre failure mode which I have witnessed more than once: its transaction logs become enormous and prevent the database from working. In theory the logs can be truncated or deleted but the documentation is full of dire warnings against such action. PostgreSQL simply sits there working and getting things done. I have never seen a PostgreSQL database crash in normal use. PostgreSQL is relatively bug-free compared to MS SQL Server. I once found a bug in PostgreSQL 8.4 ndash it was performing a string distance calculation algorithm wrongly. This was a problem for me because I needed to use the algorithm in some fuzzy deduplication code I was writing for work. I looked up the algorithm on Wikipedia, gained a rough idea of how it works, found the implementation in the PostgreSQL source code, wrote a fix and emailed it to one of the PostgreSQL developers. In the next release of PostgreSQL, version 9.0, the bug was fixed. Meanwhile, I applied my fix to my own installation of PostgreSQL 8.4, re-compiled it and kept working. This will be a familiar story to many of the users of PostgreSQL, and indeed any large piece of open source software. The community benefits from high-quality free software, and individuals with the appropriate skills do what they can to contribute. Everyone wins. With a closed-source product, you cant fix it yourself ndash you just raise a bug report, cross your fingers and wait. If MS SQL Server were open source, section 1.1 above would not exist, because I (and probably thousands of other frustrated users) would have damn well written a proper CSV parser and plumbed it in years ago. 1.16. Ease of installing and updating Does this matter Well, yes. Infrastructure flexibility is more important than ever and that trend will only continue. Gone are the days of the big fat server install which sits untouched for years on end. These days its all about fast, reliable, flexible provisioning and keeping up with cutting-edge features. Also, as the saying goes, time is money. I have installed MS SQL Server several times. I have installed PostgreSQL more times than I can remember - probably at least 50 times. Installing MS SQL Server is very slow. It involves immense downloads (who still uses physical install media) and lengthy, important-sounding processes with stately progress bars. It might fail if you dont have the right version of or the right Windows service pack installed. Its the kind of thing your sysadmin needs to find a solid block of time for. Installing PostgreSQL the canonical way ndash from a Linux repo ndash is as easy as typing a single command, like this: How long does it take I just tested this by spinning up a cheap VM in the cloud and installing PostgreSQL using the above command. It took 16 seconds . Thats the total time for the download and the install. As for updates, any software backed by a Linux repo is trivially easily patched and updated by pulling updates from the repo. Because repos are clever and PostgreSQL is not obscenely bloated, downloads are small and fast and application of updates is efficient. I dont know how easy MS SQL Server is to update. I do know that a lot of production MS SQL Server boxes in certain organisations are still on version 2008 R2 though. 1.17. The contrib modules As if the enormous feature set of PostgreSQL is not enough, it comes with a set of extensions called contrib modules. There are libraries of functions, types and utilities for doing certain useful things which dont quite fall into the core feature set of the server. There are libraries for fuzzy string matching, fast integer array handling, external database connectivity, cryptography, UUID generation, tree data types and loads, loads more. A few of the modules dont even do anything except provide templates to allow developers and advanced users to develop their own extensions and custom functionality. Of course, these extensions are trivially easy to install. For example, to install the fuzzystrmatch extension you do this: 1.18. Its free PostgreSQL is free as in freedom and free as in beer. Both types of free are extremely important. The first kind, free as in freedom, means PostgreSQL is open-source and very permissively licensed. In practical terms, this means that you can do whatever you want with it, including distributing software which includes it or is based on it. You can modify it in whatever way you see fit, and then you can distribute the modifications to whomever you like. You can install it as many times as you like, on whatever you like, and then use it for any purpose you like. The second kind, free as in beer, is important for two main reasons. The first is that if, like me, you work for a large organisation, spending that organisations money involves red tape. Red tape means delays and delays sap everyones energy and enthusiasm and suppress innovation. The second reason is that because PostgreSQL is free, many developers, experimenters, hackers, students, innovators, scientists and so on (the brainy-but-poor crowd, essentially) use it, and it develops a wonderful community. This results in great support (as I mentioned above ) and contributions from the intellectual elite. It results in a better product, more innovation, more solutions to problems and more time and energy spent on the things that really matter. 2. The counterarguments For reasons which have always eluded me, people often like to ignore all the arguments and evidence above and try to dismiss the case for PostgreSQL using misconceptions, myths, red herrings and outright nonsense. Stuff like this: 2.1. But a big-name vendor provides a safety net No it doesnt. This misconception is a variant of the old adage no-one ever got fired for buying IBM. Hilariously, if you type that into Google, the first hit is the Wikipedia article on fear, uncertainty and doubt - and even more hilariously, the first entry in the examples section is Microsoft. I promise I did not touch the Wikipedia article, I simply found it like that. In client-serving data analytics, you just have to get it right. If you destroy your reputation by buggering up an important job, your software vendor will not build you a new reputation. If you get sued, then maybe you can recover costs from your vendor - but only if they did something wrong. Microsoft isnt doing anything technically wrong with MS SQL Server, theyre simply releasing a terrible product and being up front about how terrible it is. The documentation admits its terrible. It works exactly as designed the problem is that the design is terrible. You cant sue Microsoft just because you didnt do your due diligence when you picked a database. Even if you somehow do successfully blame the vendor, you still have a messed up job and an angry client, who wont want to hear about MS SQL Servers unfortunate treatment of UTF-16 text as UCS-2, resulting in truncation of a surrogate pair during a substring operation and subsequent failure to identify an incriminating keyword. At best they will continue to demand results (and probably a discount) at worst, they will write you off as incompetent ndash and who could blame them, when you trusted their job to a RDBMS whose docs unapologetically acknowledge that it might silently corrupt your data Since the best way to minimise risk is to get the job done right, the best tool to use is the one which is most likely to let you accomplish that. In this case, thats PostgreSQL. 2.2. But what happens if the author of PostgreSQL dies Same thing that happens if the author of MS SQL Server dies ndash nothing. Also, needless to say, the author of PostgreSQL is as meaningless as the author of MS SQL Server. Theres no such thing. A senior individual with an IT infrastructure oversight role actually asked me this question once (about Hadoop, not PostgreSQL). There just seems to be a misconception that all open-source software is written by a loner who lives in his mums basement. This is obviously not true. Large open source projects like PostgreSQL and Hadoop are written by teams of highly skilled developers who are often commercially sponsored. At its heart, the development model of PostgreSQL is just like the development model of MS SQL Server: a large team of programmers is paid by an organisation to write code. There is no single point of failure. There is at least one key difference, though: PostgreSQLs source code is openly available and is therefore reviewed, tweaked, contributed to, improved and understood by a huge community of skilled programmers. Thats one of the reasons why its so much better. Crucially, because open-source software tends to be written by people who care deeply about its quality (often because they have a direct personal stake in ensuring that the software works as well as possible), it is often of the very highest standard (PostgreSQL, Linux, MySQL, XBMC, Hadoop, Android, VLC, Neo4JS, Redis, 7Zip, FreeBSD, golang, PHP, Python, R, Nginx, Apache, node. js, Chrome, Firefox. ). On the other hand, commercial software is often designed by committee, written in cube farms and developed without proper guidance or inspiration (Microsoft BOB, RealPlayer, Internet Explorer 6, iOS Maps, Lotus Notes, Windows ME, Windows Vista, QuickTime, SharePoint. ) 2.3. But open-source software isnt securereliabletrustworthyenterprise-readyetc Theres no kind way to say this: anyone who says such a thing is very ignorant, and you should ignore them ndash or, if youre feeling generous, educate them. Well, I guess Im feeling generous: Security: the idea that closed-source is more secure is an old misconception, for many good reasons which I will briefly summarise (but do read the links ndash theyre excellent): secrecy isnt the same as security an open review process is more likely to find weaknesses than a closed one properly reviewed open source software is difficult or impossible to build a back door into. If you prefer anecdotal evidence to logical arguments, consider that Microsoft Internet Explorer 6, once a flagship closed-source commercial product, is widely regarded as the least secure software ever produced, and that Rijndael, the algorithm behind AES, which governments the world over use to protect top secret information, is an open standard. In any case, relational databases are not security software. In the IT world, security is a bit like support our troops in the USA or think of the children in the UK ndash a trump card which overrules all other considerations, including common sense and evidence. Dont fall for it. Reliability: Windows was at one point renowned for its instability, although these days things are much better. (Supposedly, Windows 9x would spontaneously crash when its internal uptime counter, counting in milliseconds, exceeded the upper bound of an unsigned 32-bit integer, i. e. after 2 32 milliseconds or about 49.7 days. I have always wanted to try this.) Linux dominates the server space, where reliability is key, and Linux boxes routinely achieve uptimes measured in years. Internet Explorer has always (and still does) failed to comply with web standards, causing websites to break or function improperly the leaders in the field are the open-source browsers Chrome and Firefox. Lotus Notes is a flaky, crash-happy, evil mess Thunderbird just works. And I have more than once seen MS SQL Server paralyse itself by letting transaction log files blow up, something PostgreSQL does not do. Trustworthiness: unless youve been living under a rock for the past couple of years, you know who Edward Snowden is. Thanks to him, we know exactly what you cannot trust: governments and the large organisations they get their hooks into. Since Snowden went public, it is clear that NSA back doors exist in a vast array of products, both hardware and software, that individuals and organisations depend on to keep their data secure. The only defence against this is open code review. The only software that can be subjected to open code review is open source software. If you use proprietary closed-source software, you have no way of knowing what it is really doing under the hood. And thanks to Mr. Snowden, we now know that there is an excellent chance it is giving your secrets away. At the time of writing, 485 of the top 500 supercomputers in the world run on Linux. As of July 2017, Nginx and Apache, two open-source web servers, power over 70 of the million busiest sites on the net. The computers on the International Space Station (the most expensive single man-made object in existence) were moved from Windows to Linux in 2017 in an attempt to improve stability and reliability. The back-end database of Skype (ironically now owned by Microsoft) is PostgreSQL. GCHQ recently reported that Ubuntu Linux is the most secure commonly-available desktop operating system. The Large Hadron Collider is the worlds largest scientific experiment. Its supporting IT infrastructure, the Worldwide LHC Computing Grid, is the worlds largest computing grid. It handles 30 PB of data per year and spans 36 countries and over 170 computing centres. It runs primarily on Linux. Hadoop, the current darling of many large consultancies looking to earn Big Data credentials, is open-source. Red Hat Enterprise Linux CEntOS (Community Enterprise OS) SUSE Linux Enterprise Server Oracle Linux IBM Enterprise Linux Server etc. The idea that open-source software is not for the enterprise is pure bullshit. If you work in tech for an organisation which disregards open source, enjoy it while it lasts. They wont be around for long. 2.4. But MS SQL Server can use multiple CPU cores for a single query This is an advantage for MS SQL Server whenever youre running a query which is CPU-bound and not IO-bound. In real-life data analytics this happens approximately once every three blue moons. On those very rare, very specific occasions when CPU power is truly the bottleneck, you almost certainly should be using something other than an RDBMS. RDBMSes are not for number crunching. This advantage goes away when a server has to do many things at once (as is almost always the case). PostgreSQL uses multiprocessing ndash different connections run in different processes, and hence on different CPU cores. The scheduler of the OS takes care of this. Also, I suspect this query parallelism is what necessitates the merge method which MS SQL Server custom aggregate assemblies are required to implement bits of aggregation done in different threads have to be combined with each other, MapReduce-style. I further suspect that this mechanism is what prevents MS SQL Server aggregates from accepting ORDER BY clauses. So, congratulations ndash you can use more than one CPU core, but you cant do a basic string roll-up. 2.5. But I have MS SQL Server skills, not PostgreSQL skills Youd rather stick with a clumsy, awkward, unreliable system than spend the trivial amount of effort it takes to learn a slightly different dialect of a straightforward querying language Well, just hope you never end up in a job interview with me. 2.6. But a billion Microsoft users cant all be wrong This is a real-life quotation as well, from a senior data analyst I used to work with. I replied well there are 1.5 billion Muslims and 1.2 billion Catholics. They cant all be right. Ergo, a billion people most certainly can be wrong. (In this particular case, 2.7 billion people are wrong.) 2.7. But if it were really that good then it wouldnt be free People actually say this too. I feel sorry for these people, because they are unable to conceive of anyone doing anything for any reason other than monetary gain. Presumably they are also unaware of the existence of charities or volunteers or unpaid bloggers or any of the other things people do purely out of a desire to contribute or to create something or simply to take on a challenge. This argument also depends on an assumption that open source development has no benefit for the developer, which is nonsense. The reason large enterprises open-source their code and then pay their teams to continue working on it is because doing so benefits them. If you open up your code and others use it, then you have just gained a completely free source of bug fixes, feature contributions, code review, product testing and publicity. If your product is good enough, it is used by enough people that it starts having an influence on standards, which means broader industry acceptance. You then have a favoured position in the market as a provider of support and deployment services for the software. Open-sourcing your code is often the most sensible course of action even if you are completely self-interested. As a case in point, here I am spending my free time writing a web page about how fabulous PostgreSQL is and then paying my own money to host it. Perhaps Teradata or Oracle are just as amazing, but theyre not getting their own pages because I cant afford them, so I dont use them. 2.8. But youre biased No, I have a preference. The whole point of this document is to demonstrate, using evidence, that this preference is justified. If you read this and assume that just because I massively prefer PostgreSQL I must be biased, that means you are biased, because you have refused to seriously consider the possibility that it really is better. If you think theres actual evidence that I really am biased, let me know. 2.9. But PostgreSQL is a stupid name This one is arguably true its pretty awkward. It is commonly mispronounced, very commonly misspelt and almost always incorrectly capitalised. Its a good job that stupidness of name is not something serious human beings take into account when theyre choosing industrial software products. That being said, MS SQL Server is literally the most boring possible name for a SQL Server provided by MS. It has anywhere from six to eight syllables, depending on whether or not you abbreviate Microsoft and whether you say it sequel or ess queue ell, which is far too many syllables for a product name. Microsoft has a thing for very long names though ndash possibly its greatest achievement ever is Microsoft WinFX Software Development Kit for Microsoft Pre-Release Windows Operating System Code-Named Longhorn, Beta 1 Web Setup I count 38 syllables. Łał. 2.10. But SSMS is better than PGAdmin Its slicker, sure. Its prettier. It has code completion, although I always turn that off because it constantly screws things up, and for every time it helps me out with a field or table name, theres at least one occasion when it does something mental, like auto-correcting a common SQL keyword like table to a Microsoft monstrosity like TABULATIONNONTRIVIALDISCOMBOBULATEDMACHIAVELLIANGANGLYONID or something. For actually executing SQL and looking at the results in a GUI, PGAdmin is fine. Its just not spectacular. SSMS is obviously Windows-only. PGAdmin is cross-platform. This is actually quite convenient. You can run PGAdmin in Windows, where you have all your familiar stuff ndash Office, Outlook etc. ndash whilst keeping the back end RDBMS in Linux. This gets you the best of both worlds (even an open source advocate like me admits that if youre a heavy MS Office user, there is no serious alternative). Several guys I work with do this. One point in SSMSs favour is that if you run several row-returning statements in a batch, it will give you all the results. PGAdmin returns only the last result set. This can be a drag when doing data analytics, where you often want to simultaneously query several data sets and compare the results. Theres another thing though: psql. This is PostgreSQLs command-line SQL interface. Its really, really good. It has loads of useful catalog-querying features. It displays tabular data intelligently. It has tab completion which, unlike SSMSs code completion, is actually useful, because it is context sensitive. So, for example, if you type DROP SCHEMA t and hit tab, it will suggest schema names starting with t (or, if there is only one, auto-fill it for you). It lets you jump around in the file system and use ultra-powerful text editors like vim inline. It automatically keeps a list of executed commands. It provides convenient, useful data import and export functionality, including the COPY TO PROGRAM feature which makes smashing use of pipes and command-line utilities to provide another level of flexibility and control of data. It makes intelligent use of screen space. It is fast and convenient. You can use it over an SSH connection, even a slow one. Its only serious disadvantage is that it is unsuitable for people who want to be data analysts, but are scared of command lines and typing on a keyboard. 2.11. But MS SQL Server can import straight from Excel Yes. So what Excel can output to CSV (in a rare moment of sanity, Microsoft made Excels CSV export code work properly) and PostgreSQL can import CSV. Admittedly, its an extra step. Is the ability to import straight from Excel a particularly important feature in an analytics platform anyway 2.12. But PostgreSQL is slower than MS SQL Server A more accurate rephrasing would be MS SQL Server is slightly more forgiving if you dont know what youre doing. For certain operations, PostgreSQL is definitely slower than MS SQL Server ndash the easiest example is probably COUNT(). which is (I think) always instant in MS SQL Server and in PostgreSQL requires a full table scan (this is due to the different concurrency models they use). PostgreSQL is slow out-of-the box because its default configuration uses only a tiny amount of system resources ndash but any system being used for serious work has been tuned properly, so raw out-of-the-box performance is not a worthwhile thing to argue about. I once saw PostgreSQL criticised as slow because it was taking a long time to do some big, complex regex operations on a large table. But everyone knows that regex operations can be very computationally expensive, and in any case, what was PostgreSQL being compared to Certainly not the MS SQL Server boxes, which couldnt do regexes. PostgreSQLs extensive support for very clever indexes, such as range type indexes and trigram indexes, makes it orders of magnitude faster than MS SQL Server for a certain class of operations. But only if you know how to use those features properly. The immense flexibility you get from the great procedural language support and the clever data types allows PostgreSQL-based solutions to outperform MS SQL Server-based solutions by orders of magnitude. See my earlier example . In any case, the argument about speed is never only about computer time it is about developer time too. Thats why high-level languages like PHP and Python are very popular, despite the fact that C kicks the shit out of them when it comes to execution speed. They are slower to run but much faster to use for development. Would you prefer to spend an hour writing maintainable, elegant SQL followed by an hour of runtime, or spend three days writing buggy, desperate workarounds followed by 45 minutes of runtime 2.13. But you never mentioned such-and-such feature of MS SQL Server As I said in the banner and the intro. I am comparing these databases from the point of view of a data analyst, because Im a data analyst and I use them for data analysis. I know about SSRS, SSAS, in-memory column stores and so on, but I havent mentioned them because I dont use them (or equivalent features). Yes, this means this is not a comprehensive comparison of the two databases, and I never said it would be. It also means that if you care mostly about OLTP or data warehousing, you might not find this document very helpful. 2.14. But Microsoft has open-sourced Yeah, mere hours after I wrote all about how theyre a vendor lock-in monster and are anti-open source. Doh. However, lets look at this in context. Remember the almighty ruckus when the Office Open XML standard was being created Microsoft played every dirty trick in the book to ensure that MS Office wouldnt lose its dominance. Successfully, too ndash the closest alternative, LibreOffice, is still not a viable option, largely because of incompatibility with document formats. The OOXML standard that was finally pushed through is immense, bloated, ambiguous, inconsistent and riddled with errors. That debacle also started with an apparent gesture toward open standards on Microsofts part. If that seems harsh or paranoid, lets remember that this is an organisation that has been in legal trouble with both the USA and the EU for monopolistic and anticompetitive behaviour and abuse of market power, in the latter case being fined almost half a billion Euros. Then theres the involvement in SCOs potentially Linux-killing lawsuit against IBM. When Steve Ballmer was CEO he described Linux as a cancer (although Ballmer also said Theres no chance that the iPhone is going to get any significant market share. No chance, so maybe he just likes to talk nonsense). Microsoft has a long-established policy of preferring conquest to cooperation. So, if they play nice for the next few years and their magnanimous gesture ushers in a new era of interoperability, productivity and harmony, I (and millions of developers who want to get on with creating great things instead of bickering over platforms and standards) will be over the moon. For now, thinking that MS has suddenly become all warm and fuzzy would just be naive. 2.15. But youre insultingI dont like your toneyou come across as angryyou sound like a fanboythis is unprofessionalthis is a rant This page is unprofessional by definition ndash Im not being paid to write it. That also means I get to use whatever tone I like, and I dont have to hide the way I feel about things. I hope you appreciate the technical content even if you dont like the way I write if my tone makes this document unreadable for you, then I guess Ive lost a reader and youve lost a web page. Cest la vie.