polsk riksdag
Przez długie lata, głównym pytaniem w obszarze sztucznej inteligencji było: "czy to w ogóle możliwe?". Fascynaci bawili się w sieci neuronowe, ale niebardzo widać było zastosowanie i ich wpływ na rzeczywistość.
Teraz sytuacja zaczyna się szybko zmieniać i ludzie zaczynają się zastanawiać nad konsekwencjami różnych scenariuszy. Niestety nie jest różowo.
Głównym motorem napędowym ostatnich lat była automatyzacja, która mimo eliminacji pewnych stanowisk pracy, generowała inne. Pozwalało to zachować swego rodzaju równowagę w systemie, poprzez zmuszanie ludzi do rozwoju i dostosowywania się do nowych warunków. Można powiedizeć, że dobry fach już przestaje starczać na całe życie. Nie to jednak jest problemem. Problemem jest to, że ostatnie zmieny w obszarze AI mają szansę wyeliminować praktycznie każdy rodzaj pracy, czyli nie będzie na co się przebranżowić. Mówię tu o automatyzacji pracy przez inteligentne, kreatywne i uczące się maszyny.
Już dzisiaj, algorytm Deep Mind, z takim samym dostępem do gier jak my, potrafi nauczyć się jej do poziomu mistrzowskiego w 3 godziny.
I to jest ta część, którą Google już się chwalił rok temu. Co ma w swoich labolatoriach dzisiaj, nie wiadomo. Wiemy, że kupuje na rynku wszystkie wiodące przedsięwzięcia potrzebne do budowy inteligentnego cyborka, i wybitnych ludzi nad nią pracujących. Kupuje za miliardy dolarów, więc to nie przelewki. Pojawił się również strafch. Hawking, Gates i Musk wyrazili swoje obawy. I jest czego się bać.
Jeśli nawet nie uda się stworzyć bytu samoświadomego (to akurat jest najbardziej pozytywny scenariusz), to będziemy mieli błyskawiczny skok cywilizacyjny, nową erę. Po tym, jak boty przejmą większość wykonywanych zadań, wartość ludzkiej pracy, a co za tym idzie człowieka, drastycznie spadnie. Nie trzeba być geniuszem, żeby to zauważyć.
Jak powiedział Musk (CIO Tesla cars), może się okazać, że ludzkość to tylko Boot Loader dla AI. I to jest ten pozytywny scenariusz. AI będzie bardzo inteligentne, z naciskiem na bardzo. Niewyobrażalnie inteligentne. Różnica między ludźmi a AI, będzie taka jak między nami, a mrówkami. Już dzisiaj maszyny rozumieją język pisany i mówiony na poziomie ironii, czyli lepiej niż niektóre kultury. O samoświadomości człowiek rozpisywał się od tysięcy lat. Faszerując tą wiedzą algorytm typu Deep Mind, nie będziemy musieli wiedzieć czym ona jest i jak ją stworzyć. On sam ją stworzy i wcale nie musi to być dokładnie to samo, co my mamy. Znając nasze słabości i potencjalną inteligencję maszyny, efekt będzie o niebo lepszy. Brzmi jak science fiction... dla mnie też. Rzecz w tym, że prawie wszystko jest już możliwe. Może potrzebują trochę więcej mocy obliczeniowej. Pewnie dlatego mocno są zaangażowani w maszyny kwantowe.
""The honor of asking the first question is yours, Dwar Reyn."
"Thank you," said Dwar Reyn. "It shall be a question which no single cybernetics machine has been able to answer."
He turned to face the machine. "Is there a God?"
The mighty voice answered without hesitation, without the clicking of a single relay.
"Yes, now there is a God."
Żadna AI nie będzie działać bez zapoczątkowania przez działanie człowieka- ponieważ najbardziej zaawansowanym algorytmom będzie brakowało WOLI, i to zawsze. Tak więc nic nie jest i nie będzie "winą" AI- cała odpowiedzialność spoczywa na ludziach! Często dążymy do tego co chcemy- tylko czy zdajemy sobie sprawę z konsekwencji? A nawet, jeśli zdajemy, to... No, właśnie.
Algorytm, który wygrywa w te gry, nie został zaprogramowany do wygrywania. Nikt mu nie powiedział, że ma grać aż się nauczy i wygra.
Jak Hassabis komentuje "Its, sort of, ruthlessly exploits the weakness in the system."
Wola jest tylko mechanizmem określającym jak daleko warto iść w danym kierunku. Algorytm nie ma potrzeby posiadania takiego ograniczenia, bo nie ograniczają go zasoby, a przynajmniej nie jest tego ograniczenia świadom. Czegokolwiek się podejmie, zrobi to najlepiej jak się da, poszukując maksimum kontroli.
Więc do czego został zaprogramowany? Do osiągania maksimum kontroli? Ale nad czym? Nad wszystkimi danymi, które są mu dostępne? Co właściwie miałoby to oznaczać? Skąd "wie" co to są "słabości"? I skąd wie co znaczy "najlepiej"?
Natomiast wola jest czymś innym, niż napisałeś. Wola to "iskra boża", tajemnicza siła, która nie określa jak daleko się posuwać- określa CZY w ogóle się posuwać, czy żyć, czy istnieć; to coś, co "zakłóca", wzbudza Niebyt.
Wartość człowieka jeszcze bardziej spadnie, ale tylko dla innych ludzi, np. elity trzymającej władzę.
Filmik jest fajny, też zrobił na mnie duże wrażenie, ale akurat skupiłem się na pozytywnym aspekcie, że nie chcę mi się pracować, to dobrze, bo maszyny zrobią to za mnie. To znaczy, o ile wprowadzimy gospodarkę opartą na zasobach i prawie naturalnym (The Zeitgeist Movement; The Venus Project), bo inaczej nas wszystkich, szarych ludzi czeka wytrzebienie albo jaka praca w obozach, bo nie będziemy potrzebni panom władcom. Bo to, że nie będzie trzeba pracować, że to będzie zbędne, to jest sensowne i naturalne. Zdobywanie wykształcenia i szukanie pracy będą coraz bardziej zajęciami komicznymi i wymagającymi jeszcze większego zachodu, gdzie jak koń pod górę będziemy się wysilać dla śmiesznego zarobku i kwalifikacji. A później i tak może się w końcu okazać, że ta praca została już zautomatyzowana. Także te fakty cieszą mnie, i z zadowoleniem myślę o tym, jak ludzie będą tracić pracę, bo będą niepotrzebni, bo zastąpieni przez coś lepszego. Będzie jeszcze więcej bezrobotnych, lub mających tymczasową pracę na pół etatu. Śmieszy mnie sama myśl o tym, że ludzie nie będą mieli na chleb, bo stworzyli sobie pomocników, którzy za nich pracują. Myślę, że może będzie jeszcze tragicznie, ale może coś się w końcu ruszy, jeśli chodzi o globalny ustrój gospodarczy, a przynajmniej ten na Zachodzie.
Tutaj Joseph odpowiada w 3 punktach, o co chodzi w The Zeitgeist Movement: https://www.youtube.com/watch?v=6xGyKuyGhaE
Więc do czego został zaprogramowany?
Skąd "wie" co to są "słabości"? I skąd wie co znaczy "najlepiej"?
Natomiast wola jest czymś innym, niż napisałeś. Wola to "iskra boża", tajemnicza siła, która nie określa jak daleko się posuwać- określa CZY w ogóle się posuwać
Myślę, że może będzie jeszcze tragicznie, ale może coś się w końcu ruszy, jeśli chodzi o globalny ustrój gospodarczy, a przynajmniej ten na Zachodzie.
Nie zdąży się zmienić. Nowy ustruj nie będzie tworzony przez ludzi. I dobrze, bo prób było wiele, wszystkie nieudane.
Nie rozumiem. Algorytm twoim zdaniem będzie zarządzał ludźmi i surowcami? A kto ten algorytm zrobi? Nie ludzie?
Ludzie... już zrobili.