Profesor Andrzej Dragan jest fizykiem i mówi ściśle, bo tak został ukształtowany jako naukowiec. I to jest dobre, ponieważ nie „buja w obłokach”. Zaletą wywiadu jest także to, że nie epatuje słownictwem znanym wąskiemu kręgowi naukowców i przez to jest zrozumiałe co mówi zwykłym ludziom. Wadą tego wywiadu jest fakt, że profesor Dragan mówi szybko jak „karabin maszynowy” – przynajmniej ja tak to odbieram i czasami trudno go zrozumieć.

Tytuł wywiadu:

Prof. Andrzej Dragan: Umiemy tresować AI, ale nie wiemy, jak AI robi to, co robi. To jest ten dramat.

Redaktor radia WNET, Łukasz Jankowski : Naszym gościem jest Andrzej Dragan, fizyk teoretyczny, a także fotograf, wykładowca akademicki z Uniwersytetu Warszawskiego. Co Pan profesor czuje kiedy myśli o AI?

Artificial Intelligence = AI = sztuczna inteligencja

Prof. Andrzej Dragan: To nie ma znaczenia co ja czuję jak o tym myślę. Jedno od drugiego jest odklejone. Przynajmniej powinno być odklejone.

Redaktor radia WNET, Łukasz Jankowski : A jest?

Prof. Andrzej Dragan: Trzeba włożyć pewien wysiłek, żeby odklejać emocje od tego co się uważa i staram się ten wysiłek wkładać, bo emocje ludźmi targają, ale to specjalnie do niczego nie prowadzi w takiej dyskusji na temat faktów. Fakty są takie, że dzieje się coś bardzo ciekawego. Żyjemy chyba w najciekawszych czasach w jakich ludzie dotąd żyli i dramat jest tylko taki, że następne będą jeszcze ciekawsze.

Redaktor radia WNET, Łukasz Jankowski: Sztuczna inteligencja będzie miała emocje, ma emocje?

Prof. Andrzej Dragan: Chyba nie ma jeszcze żadnych emocji, bo nawet nie wiem co to są emocje. Same się nie zrobią (emocje w AI). Musimy najpierw zrozumieć co to jest; przynajmniej w przybliżeniu i dopiero wtedy będzie można myśleć o implementowaniu tego. To są narzędzia, które realizują to co chcemy, żeby realizowały.

Redaktor radia WNET, Łukasz Jankowski : Zacząłem od tych emocji, bo tutaj wiele osób mówi, że to jest ta różnica, że oczywiście, maszyny* są od nas lepsze, głębokie sieci neuronowe już lepiej tworzą język, żeby się posługiwać naszym językiem, czy to jest polski czy angielski – bez różnicy, ale nie mają jeszcze uczuć. Czy to jest to co nas odróżnia od tej innej inteligencji?

Prof. Andrzej Dragan: No tak. Nie mają też kończyn i innych wypustek w organizmie – tyle rzeczy nas różni. Sposób w jaki one konstruują język też jest inny niż to jak my to robimy. Podobieństwa są tylko powierzchowne. Nie wiem czy emocje są potrzebne w tym momencie do czegokolwiek i czy są jakoś specjalnie definiujące czy ważne. W momencie jak się staną ważne i przydatne to pewnie to się pomyśli jak je skonstruować. Natomiast w tym momencie nie wiadomo jaka byłaby korzyść albo brak korzyści z tego, że te emocje są albo ich nie ma.

Redaktor radia WNET, Łukasz Jankowski : Wtedy można by rozmawiać ze sztuczną inteligencją jak z kolegą.

Prof. Andrzej Dragan: Można (rozmawiać) już teraz, bo ona może takie emocje udawać i robi to bardzo dobrze. To akurat jest teraz na poziomie nastolatka elokwentnego, ale też idzie w takim tempie naprzód, że za chwilę to będzie na poziomie laureata nagrody Nobla w literaturze.

Redaktor radia WNET, Łukasz Jankowski: Będzie nas rozumieć, albo nam się będzie wydawać ,że AI, Chat GPT nas rozumie, nas lubi, z nami się dogaduje?

Wg Wiki:

Chat GPT – chatbot opracowany przez firmę OpenAI, wykorzystujący model GPT i służący do generowania odpowiedzi na dane wprowadzane przez użytkownika. Model ten został opracowany na podstawie dużych zbiorów danych, tak aby mógł prowadzić rozmowę i angażować się w różne tematy, od ogólnych rozmów po określone obszary wiedzy.

Chatbot, chatterbot, linguabot – program komputerowy, którego zadaniem jest prowadzenie konwersacji z udziałem komputera, który replikuje zachowania ludzkie, np. automatyzując odpowiedzi na powtarzalne pytania. Najprostsze boty wykorzystują schematy blokowe.

Prof. Andrzej Dragan: To są zupełnie różne rzeczy co Pan mówi: lubi, dogaduje się, a rozumie to są zupełnie różne sprawy. Jak się sprawdza czy fizyk coś rozumie to się sprawdza czy on potrafi przewidzieć co się wydarzy w jakimś eksperymencie, np. czy ja jakieś zjawisko rozumiem tzn. czy ja potrafię jakieś zjawisko kontrolować, spowodować aby stało się to albo tamto. W tym sensie ponieważ algorytmy doskonale nami manipulują i spowodowały, że  „skrolujemy” (scroll=przewijamy) ekrany przez czas parę rzędów większy niż to było jeszcze niedawno. W pewnym sensie nas rozumieją. Natomiast nie ma w tym udziału żadnej świadomości, jakiś emocji. To jest po prostu dostrzeżenie, że jeżeli zrobimy coś to ten organizm „skrolujący” (przewijający) zrobi tamto.

Redaktor radia WNET, Łukasz Jankowski : Wie jak my będziemy się zachowywać, wie czego potrzebujemy.

Prof. Andrzej Dragan: Dajemy się manipulować algorytmom już teraz. Są bardzo ciekawe prace Michała Kosińskiego (chyba ze Stanfordu). On badał jak niewiele trzeba wiedzy o naszych intelektach w sieciach społecznościowych, żeby przewidywać cechy naszego charakteru, czy uczyć się cech naszych osobowości. Bardzo niewiele danych wystarczy, żeby się sporo o nas dowiedzieć, a my dalej zostawiamy bardzo dużo informacji o sobie. Algorytmy przewidują, analizują o wiele lepiej niż jakikolwiek statystyk.

Redaktor radia WNET, Łukasz Jankowski : Profesor Michał Kosiński nawet przeliczał na „lajki”, że 420 „lajków”, które zostawimy AI wystarczy, żeby ona znała nas znała tak dobrze jak rodzic.

Prof. Andrzej Dragan: Badania są trochę podkoloryzowane, ale efekt z całą pewnością jakiś jest. Najlepszy dowód empiryczny jest taki, że siedzimy i „skrolujemy”, „skrolujemy” i to jest właśnie zasługa sprytnych algorytmów, które wiedzą co nam podsunąć, żebyśmy chcieli to oglądać.

Redaktor radia WNET, Łukasz Jankowski: Znowu wracam do tych emocji, bo ten algorytm nam podsuwa, ale przecież nie robi tego przynajmniej na razie, z jakimś głębszym celem. Czy takie dostał zadanie i je wykonuje?

Prof. Andrzej Dragan: Zgadza się.

Redaktor radia WNET, Łukasz Jankowski: Nie ma tej auto świadomości? To jest kolejne pytanie związane z emocjami.

Prof. Andrzej Dragan: Pojawia się wątpliwość. Bardzo ciekawego wywiadu udzielił profesor Wodzisław Duch na ten temat. To jest pytanie jak definiujemy pojęcia których używamy: emocje, świadomość. Pan nie ma zielonego pojęcia co to jest, bo większość ludzi nie ma zielonego pojęcia. Chyba nikt nie ma pojęcia co to jest. Można to sobie jakoś definiować. Jest jakaś definicja, którą zdefiniował jakiś filozof średniowieczny, że świadomość to jest taka umiejętność obserwacji swoich stanów wewnętrznych. Nie wiem czy to jest definicja świadomości, czy tylko warunek konieczny, żeby świadomość istniała. Natomiast ten warunek obserwowania stanów wewnętrznych niektóre algorytmy spełniają. Wodzisław Duch twierdził, że na tej podstawie można powiedzieć, że one są w stanie w pewnym sensie świadome. Jam mam wątpliwości, bo w tym sensie, jak wezmę pętlę logiczną w jakimś programie i wyposażę ją w warunek „if” (jeśli), to też w pewnym sensie obserwuje swoje stany wewnętrzne. Spełnia formalną definicję tylko nie wiadomo jaka jest dobra definicja.

Redaktor radia WNET, Łukasz Jankowski: Krzysztof Meissner powiedział o tym pytaniu: ja jestem. Czy pan profesor w ogóle patrząc na sieci neuronowe, AI może wytworzyć odpowiedź na pytanie czy ona zadaje sobie pytanie: czy ja jestem, czy ja istnieję?

Prof. Andrzej Dragan: Ludzie takie eksperymenty robią; nawet wiele zwierząt przechodzi tzw. test „lustra”. Zwierzęciu przykleja się kropkę na czole, one tej kropki nie widzą, ale jak spojrzą w lustro to widzą, że w odbiciu jest jakiś stwór, podobny do mnie, z taką kropką i niektóre zwierzęta łapią się za swoje własne czoło, żeby sprawdzić, czy to jest ich kropka. To jest przykładem pokazującym, że niektóre zwierzęta mają świadomość swojego istnienia, swojej roli w sieci, itd. W jakimś ograniczonym sensie, to jest stopniowalne. Z całą pewnością nie jest to cecha, ograniczona do ludzi. Algorytmy zapewne na tym etapie nie mają czegoś takiego w ogóle, dlatego, że nawet, tak jak powiedziałem, same dekrety się nie zrobią. Wiele rzeczy potrafimy zrobić, żeby robiły się same, ale akurat to nam się jeszcze nie udało. Chyba można powiedzieć, że póki co takich rzeczy nie ma jeszcze. Takich rzeczy algorytmy jeszcze nie mają.

Redaktor radia WNET, Łukasz Jankowski: Nie ma lustra, nie ma kropki, którą można by przyczepić…

Prof. Andrzej Dragan: Testy można robić. Można sobie wymyślać analogiczny test dla algorytmu AI i to pewnie byłby bardzo ciekawy test. Podejrzewam, że te istniejące algorytmy go nie przejdą. Jeśli chodzi o te najbardziej popularne sieci językowe, te duże modele językowe, które się używa, one są na bazie tzw. transformerów. To są takie struktury, trochę drzewowe, w tych schematach połączeń, które są liniowe, tzn. jak wchodzi jakiś sygnał to przychodzi w jednym kierunku i wychodzi na drugim końcu takiej sieci. Natomiast to  oznacza, że ta sieć nie ma żadnych stanów wewnętrznych. Tam nie ma niczego co jest jakąś chwilową pamięcią, jakimś zapętleniem. Output (wyjście) takiej sieci nie zależy od tego w jakim jest ona stanie wewnętrznym, bo tych stanów wewnętrznych nie ma; to zależy tylko od inputu (wejścia). Natomiast, żeby mówić o jakichkolwiek złożonych procesach kognitywnych, takich jak uczucia, czy świadomość, coś co Pan mówił, ja nie wiem co to znaczy, ale wiem, że warunkiem koniecznym, żeby istnieć, jest to, żeby w tej głowie, z tyłu nosa były jakieś zapętlenia, rekurencje w taki sposób, żebym ja za każdym razem mógł reagować inaczej na strumień danych wejściowych, bo jak mam zły humor to reaguję inaczej niż jak mam dobry humor. Jak mam taką intencję to zrobię coś innego niż jak mam inną intencję w takich samych okolicznościach. Transformery nie mają takich pojemników na stany wewnętrzne, więc tam z całą pewnością warunek konieczny, żeby o tym myśleć nie jest spełniony.

Redaktor radia WNET, Łukasz Jankowski: Jasne, ale to znowu Pan profesor użył słowa „humor”, to Chat GPT 4 dostępny komercyjnie, ma „humory”, czy ona żadnych „humorów” mieć nie może?

Prof. Andrzej Dragan: Ma poczucie humoru okazuje się. Takie wersje, które nie są Panu udostępnione, czy tam śmiertelnikom, tylko są w zamkniętym obiegu pokazywane. One na przykład potrafią analizować obrazy. Są takie eksperymenty: pokazano Chatowi GPT rysunek i zapytali czy jest w tym coś śmiesznego i on wskazywał na innych rysunkach coś śmiesznego, np. był taki rysunek, na którym ktoś podłączył Iphone’a wtyczką do ładowania, ale taką co ma port VGA, taki do drukarki, czy jakimś dużym  portem i to było ewidentnie niepasujące i Chat GPT uznał to za śmieszne i wytłumaczył dlaczego. Zaawansowane modele potrafią już wykazać się pewnymi zalążkami czegoś co by można poczuciem humoru. Co prawda, jak się go zapyta o to, żeby wymyślił jakiś dowcip to uszy więdną. Przypuszczam, że jedną z najbardziej intratnych aplikacji jakich należy się spodziewać lada miesiąc czy rok – cholera wie, to będzie asystent personalny, który będzie taką sztuczną inteligencją, tylko twoją własną, która zna ciebie doskonale. Bada cały przepływ informacji przez twój telefon. Ma jakieś sygnały wewnętrzne gdzie jesteś, co robisz itd. i podpowiada niepytany co warto zrobić: tu jest coś fajnego, tam jest coś fajnego. Prowadzi dyskusję  uczy się takiej osoby. Każdy pewnie chciałby mieć takiego asystenta, inteligentniejszego od wszystkich znajomych dookoła, który nie gada głupot, tylko mówi sensowne rzeczy. Rozwiązuje jakieś choroby, ewentualnie i odpowiada na jakieś problemy i ma inicjatywę. Każdy by coś takiego chciał, a jak dużo ludzi coś chce to się znajdzie firma, która coś takiego dostarczy. Jest to dostępne w technologicznym zasięgu.

Redaktor radia WNET, Łukasz Jankowski: Pan profesor nie tylko fizyką się zajmuje, też gdzieś tam bawił się, pracował przy tworzeniu algorytmów, przy pisaniu algorytmów. Dla Pana obecne sieci neuronowe to jest czarna skrzynka, czy Pan mniej więcej rozumie co się tam dzieje?

Prof. Andrzej Dragan: Nawet ostatnio używałem sieć neuronową jak robiłem deepfake* na potrzeby kampanii reklamowej. Podmienialiśmy sobie wideo-twarze jedna na drugą; to wyszło całkiem ciekawie. Dawno temu programowałem jeszcze „prehistoryczne” wersje AI, coś w rodzaju prymitywnych algorytmów genetycznych, które ewoluowały i wybierały strategie, które były optymalne z jakiegoś powodu. Jeśli chodzi o rozumienie to sprawa jest ciekawa. Powtarzam to do upadłego. To jest ciekawy test na to czy dana osoba, która słucha tego i rzeczywiście rozumie to co robi czy nie. Mówię o ludziach z branży IT, którzy jak to słyszą, część z nich dostaje palpitacji. My nie mamy zielonego pojęcia jaki jest mechanizm działania algorytmów, które tworzymy. My w ogóle nie wiemy jak one działają. Te duże sieci językowe, modele językowe działają w sposób, którego nikt zupełnie nie rozumie. To co my rozumiemy, to rozumiemy mechanizm uczenia maszynowego czyli algorytmu dochodzenia schematu iteracyjnego, który taką sieć szkoli. Jest kilka trików. Z grubsza biorąc jest to taka skomplikowana metoda, trochę uogólniona metoda gry w ciepło i zimno. W najbardziej prymitywnej wersji mamy zbiór połączeń synoptycznych takiej sieci i one na początku są losowe. Potem je trochę modyfikujemy, patrzymy co się poprawiło, co się pogorszyło. Jak się poprawiło to idziemy dalej, jak się pogorszyło to się cofamy i tak sobie gramy w ciepło i zimno. Nie chodzimy po powierzchni pokojów w dwóch wymiarach tylko jak np. w Chat GPT 3.5 w 170 miliardach wymiarów. Wymaga to trochę więcej pomyślunku jak zrobić, żeby taka procedura była zbieżna. Są tam jeszcze jakieś usprawnienia jak propagacja wsteczna i inne schematy uczenia tych transformerów. My wiemy jak zaprogramować iteracyjnie proces uczenia. W efekcie tego w tą grę w ciepło i zimno, w końcu znajdujemy algorytm w tym pokoju, w którym przeszukujemy i on nagle robi to co chcemy i to całkiem nieźle. Jak on to robi, jak ten nieszczęsny algorytm to przewiduje, następne słowo, robiąc to lepiej niż człowiek. Jak on to robi, to co robi – tego nikt nie wie. Są jeszcze tacy ludzie, do których to nie dociera, to proponuję, żeby udowodnić, że nie mam racji, żeby napisali program w Assemblerze czy w jakimś języku wysokiego poziomu C++ lub Python czy czymkolwiek, który algorytmicznie skonstruuje to co robi ta duża sieć. Nikt tego nie potrafi zrobić i każdy świadomy człowiek zajmujący się branżą IT, który zna się na uczeniu maszynowym i np. zna książkę Ian Goodfellow, Yoshua Bengio, Aaron Courville „Deep learning”… To jest bardzo ciekawe, że po 100 stronach nudnych jak algebra liniowa, tam jest, tam gdzie się zaczyna to mięso, ta zasadnicza treść, to pierwsze zdanie tej książki jest takie, że uczenie maszynowe to jest taka metoda rozwiązywania problemów, których człowiek konwencjonalnymi metodami nie jest w stanie zaprojektować, nie potrafi.

Uczenie maszynowe to jest taka metoda robienia programów, które nie rozumiem jak działają i nie potrafilibyśmy ich zapisać w formie algorytmu, bo takiego algorytmu nie znamy. To się dzieje, w pewnym sensie, samo.

Redaktor radia WNET, Łukasz Jankowski : Chociaż jest to dla laika niewyobrażalne, że to jednak napisany kod robi coś…

Prof. Andrzej Dragan: Napisaliśmy kod, który modyfikuje sieci i sprawdza czy już robią to co chcemy. Potem znowu zmienia, sprawdza czy robi to co chcemy potem znowu zmienia i tak w kółko zmienia i sprawdza czy robi co chcemy, aż w końcu stopniowo poprawiając dochodzi do całkiem niezłego poziomu, w którym robi to co chcemy lepiej niż człowiek pod pewnymi względami. Nie wiemy jak on to robi. Jedyne co robimy to zmieniamy i sprawdzamy, zmieniamy i sprawdzamy i to ten algorytm sprawdzania rozumiemy. Jak on robi to co robi tego nie wiemy i to jest trochę dramat sytuacji, że hodujemy coraz bardziej potężne algorytmy. Ten „wyścig zbrojeń” się nasila. Rozwój tych sieci to już nie jest rozwój wykładniczy nawet. Okazuje się, że jak się patrzy na dane, to jest rozwój podwójnie wykładniczy. Takiego tempa rozwoju nie było jeszcze nigdy w żadnym zjawisku znanym na ziemi. I my tworzymy jeszcze większe, jeszcze lepsze coraz gorzej rozumiejąc jak one robią to co robią. Gra jest bardzo stara. To co się zmieniło to mamy coraz większe komputery, coraz więcej pamięci, coraz większe moce obliczeniowe i okazuje się, że stare algorytmy, uruchomione na super dobrych komputerach, dających możliwości tworzenia dużo większych sieci prowadzą do jakościowych, różnic jakościowych skoków i umiejętności w tych algorytmach.

Redaktor radia WNET, Łukasz Jankowski: To jest tylko ilość „karmy”, informacji jaką podamy? Jeżeli "utuczymy" ten algorytm olbrzymią ilością karmy. Damy mu duże moce obliczeniowe, to on sobie poradzi?

Prof. Andrzej Dragan: Na razie tak jest, że głównie transformery, które się używa i postępu żadnego nie ma. Architektura jest po prostu powielana, powiększana i tam się dokłada do pieca coraz więcej. Trzeba zwrócić uwagę, że te sieci, których teraz używamy i sposób w jaki je uczymy jest bardzo nieefektywny. W tym sensie, żeby nauczyć takiej sieci czegokolwiek to trzeba przeznaczyć na to terabajty danych. Jak się uczy człowieka prowadzić samochód to on w 20 godzin nauczy się jak ma jeździć. Uczenie maszynowe tych algorytmów , które miałoby jeździć samochodami, autonomicznych kierowców, cały czas brakuje danych; cały czas jest tego za mało. Człowiek potrzebuje kilku przykładów, żeby zacząć rozumieć coś, a tym algorytmom, które obecnie mamy, obecnie hodujemy, tych danych potrzeba więcej. Ten proces nauki jest bardzo nieefektywny i dlatego trzeba tych danych dużo. Ludzie pracują nad tym i coraz bardziej efektywnie to się daje robić. W Stanfordzie opublikowano te warianty modeli językowych w których już do zbliżonej efektywności wystarczy sam laptop i pamięć typowa dla zwykłego użytkownika. To będzie szło w tę stronę, że sieci będą się coraz efektywniej uczyć.

Redaktor radia WNET, Łukasz Jankowski: Będą po prostu mądrzejsze czyli będą bardziej inteligentne, bo na tym polega inteligencja; na szybkości uczenia się, a nie na powtarzaniu po tysiąckroć tej samej czynności, żeby opanować prosty ruch jakim jest podniesienie ręki?

Prof. Andrzej Dragan: To jest jeden z objawów inteligencji, a nie sama inteligencja. Jednym z objawów inteligencji jest to, że mogę się szybko uczyć, ale te algorytmy są w pewien sposób inteligentne, na inny sposób nie są.  Ma Pan rację, że nauka szybkiego uczenia to jest objaw inteligencji, przy czym akurat ten rodzaj inteligencji, to jak szybko one się uczą, to nie zależy od algorytmów, tylko właśnie od tego algorytmu uczenia się maszynowego. Mamy głupi sposób uczenia maszynowego, który niestety nie jest efektywny. Wychodzą z tego bardzo inteligentne algorytmy, pod wieloma względami, natomiast sam mechanizm uczenia maszynowego ma swoje poważne ograniczenia i to jest nasza wina. To my jesteśmy za głupi, bo jeszcze nie rozumiemy jak się uczy mózg. Trochę podpatrzyliśmy i to kopiujemy, ale póki co wiele więcej niż podpatrzyliśmy w mózgu to nie robimy.

Redaktor radia WNET, Łukasz Jankowski:  Zastanawiam się, Panie profesorze, to skąd, skoro tam są takie ograniczenia [konta w wizjerze] AI może być niebezpieczna, może być końcem ludzkiego gatunku, bo i takie analizy, takie przewidywania się pojawiają?

Prof. Andrzej Dragan: Przede wszystkim jest taki mit, że to już teraz, to już te proste modele, które mamy obecnie ten mit ośmieszają. Te umiejętności modeli językowych są tylko tym czym ich nakarmiliśmy, tzn. model językowy jest w stanie skompilować dane jak papuga, ale ani jednej literki więcej, niż to co przeczytało, nie jest w stanie z siebie wydusić. To jest bzdura. Sam robiłem takie eksperymenty. Naukowcy niezależni analizowali umiejętności tych sieci. Jest taka piękna praca ludzi, bodajże, z Microsoftu, na 150 stron o umiejętnościach i zakresach kompetencji tych dużych modeli językowych i one zdecydowanie robią rzeczy, które wykraczają poza to co kiedykolwiek przeczytały. Rozwiązują problemy logiczne, których nigdy nie widziały na oczy. Popełniają błędy i naprawiają na podstawie tego, że są o tym poinformowane. Ta wersja Chat GPT 3,5 jest jeszcze pod tym względem koślawa. Natomiast wersja 4 i 4,5 już jest o wiele lepsza pod tym względem nieporównywalnie. To jest skok w przeciągu kilku miesięcy, który został wykonany jest gigantyczny. Po pierwsze to nie jest tak, że te algorytmy są zdolne tylko do tego co przeczytały, bo tych danych nie używają po to, żeby patrzeć na nie i kopiować jakąś odpowiedź, tylko one używają tych danych, żeby sobie wytworzyć pewien wewnętrzny model rzeczywistości. Jak mają taki model rzeczywistości zbudowany to dopiero jego używają do tego, żeby odpowiadać na nasze pytania i z nami konwersować. To można pokazać, że taki prosty, ordynarny translator Google’a, którego używamy do tłumaczenia z jednego języka na drugi nie rozumie kompletnie tego tekstu, który tłumaczy. Natomiast Chat GPT, żeby pewne tłumaczenia przeprowadzać, które dla Google’a są zbyt trudne on musi mieć pewien stopień rozumienia tekstu, który do niego trafia; rozumienia nieświadomego oczywiście, ale jakiś model świata musi posiadać i ten tekst w tym modelu interpretować. To już jest wyższa funkcja niż tylko głupie kompilowanie tekstów.

Redaktor radia WNET, Łukasz Jankowski:  Jest w stanie być, jak rozumiem, twórcza, ale profesor Krzysztof Meissner postawił taki dość popularną, przynajmniej w polskiej infosferze tezę, że gdyby karmić tą AI do oporu muzyką średniowieczną i gdzieś tam wyszłaby z tego fuga bachowska to ta AI by nie zrozumiała, że to jest piękne, że to jest nowe, że to jest twórcze.

Prof. Andrzej Dragan: Obecna by nie zrozumiała, ale o czym to świadczy?

Redaktor radia WNET, Łukasz Jankowski:  To świadczy o tym, że cały czas człowiek, przynajmniej w wielkich odkryciach, w tym gdzie jest potrzebne innowacyjne myślenie zupełnie wychodzące poza schemat, będzie niezastąpiony.

Prof. Andrzej Dragan: Zaraz! W tym co Pan powiedział nie ma żadnego logicznego związku z tym co Pan powiedział przed chwilą. To, że jest teraz stan jaki jest.. W rok czy dwa lata po pojawieniu się tych dużych modeli językowych, one jeszcze tego nie potrafią. Jak z tego wynika logicznie, że one nie będą tego potrafić za rok, może za pięć, może za sto?

Redaktor radia WNET, Łukasz Jankowski :  Wiemy, że teraz nie potrafią.

Prof. Andrzej Dragan: To jest wszystko co można teraz powiedzieć. Teraz tego nie potrafią. Tempo rozwoju tych algorytmów jest tak oszałamiające, one się tak rozwijają, żeby porównać wersję 3,5, która jest darmowa i wersję płatną 4 i 4,5, których ludzie jeszcze nie mają w powszechnym obiegu, to przeskok jest jak między trzylatkiem a ośmiolatkiem w poziomie intelektualnym. W parę miesięcy jest to skok o parę lat rozwoju intensywnego sieci neuronowej ludzkiej. Jeżeliby to ekstrapolować i przyjąć, że tego typu rozwój będzie kontynuowany, no to za 10 lat będziemy mieli algorytmy, które są lepsze od najlepszego człowieka dorosłego pod każdym względem. Teraz już dzieci 8 letnie nie rozwiążą problemów logicznych, które te sieci rozwiązują. Mogę dać wiele przykładów, bo to analizowałem uważnie. Mówię o oryginalnych programach, których nie widziałem, ale sam je wymyślałem na przykład. Ponieważ 8-latki rozwijają się wolniej niż  te algorytmy, to, jeżeli to tempo zostanie utrzymane to obecni 8-latkowie już nigdy w życiu nie rozwiążą żadnego problemu logicznego, który byłby za trudny dla dużej sieci AI. Jeżeli ten trend zostanie utrzymany to mamy pokolenie ludzi, którzy już nigdy nie prześcigną umiejętności logicznego myślenia AI.

Redaktor radia WNET, Łukasz Jankowski :  Ten nasz mózg jest po to stworzony, funkcjonuje, żeby odbierać sygnały z zewnątrz poprzez różne zmysły  i je przetwarzać. AI wydaje się nie ma takich „wypustek” jak Pan powiedział; żyje w innej przestrzeni.

Prof. Andrzej Dragan: No jak nie ma wypustek? Jak Pan pisze do Chat GPT, to wysyłamy sygnał wejściowy, ciąg znaków. To jest ten sygnał. Pan ma więcej otworów w swoim pudełku z kości. A tam jest tylko jeden otwór i w ten otwór wchodzą literki.

Redaktor radia WNET, Łukasz Jankowski:  To jest jednak poruszanie się… Nie ma jednak AI tego co zajmuje nasz mózg. Nasz mózg zajmuje strach przed śmiercią, kwestia rozmnażania, itd. To jest cała ilość sekwencji, która wpływa na naszą inteligencję, której AI zdaje się nie porusza, jej to nie interesuje.

Prof. Andrzej Dragan: No  dobra. To jest zupełnie inny schemat, póki co. Swoją drogą głównie jest po, żeby siedział Pan prosto i się nie przewracał jak Pan chodzi i obsługiwał działanie serca czy wątroby. Część tych organów działa autonomicznie, a duża część jest sterowana mózgiem. To jest główny wysiłek mózgu, żeby kontrolować ten organizm, który ma Pan pod spodem, pod szyją doczepiony do głowy i do tego służy mózg. Procesy kognitywne, których my używamy to jest drobny dodatek do tego wszystkiego.

Redaktor radia WNET:  Wiele ssaków w ogóle się obywa bez tego i świetnie sobie radzi.

Prof. Andrzej Dragan, Łukasz Jankowski: Tak, dokładnie. Dlatego my świetnie gramy w koszykówkę, a fatalnie gramy w szachy. W koszykówkę żaden algorytm ani robot nie ma jak się zbliżyć do nas, a w szachy nas leją aż strach patrzeć.

Redaktor radia WNET, Łukasz Jankowski :  Od 1997 roku minęło 26 lat i także gra w GO została już złamana przez konkretny algorytm.

Prof. Andrzej Dragan: Wszystkie gry. Nie ma takiej gry, w której ludzie są lepsi od AI. Wszystkie tego typu gry czy zespołowe czy rywalizacyjne, gry komputerowe dowolnie skomplikowane StarCraft, Dyplomacja – wszytko to już leży.

Redaktor radia WNET:  W ostatnim wywiadzie powiedział profesor Duch, że w dyplomacji. To było dla mnie uderzające, że dyplomacja, która jest taką trochę logiczna, ale też bardzo sensualną, bardzo emocjonalną.

Prof. Andrzej Dragan: Tak jak poker. W pokera ludzie są lani przez algorytmy.

Redaktor radia WNET, Łukasz Jankowski:  Jak to wytłumaczyć? Jak algorytm rozumie emocje, bleff, rozumie to wszystko co jest poza zwykłym rachunkiem prawdopodobieństwa?

Prof. Andrzej Dragan: Właśnie powtarzam, że my tego nie rozumiemy! Nie wiemy jak on robi to co robi. To jest właśnie ten dramat. Jeżeli jest to jedyna rzecz którą chciałbym, żeby ktokolwiek zapamiętał z tej rozmowy, to jest właśnie to, że my umiemy, skonstruowaliśmy efektywną metodę tresury. Natomiast jak ten biedny twór poddaje się tresurze, jak on robi to co on robi w wyniku tej tresury tego nikt nie wie. Nie wiemy jak one grają w szachy, jak one grają w pokera tak dobrze. Nie wiemy jak one odpowiadają na nasze prompty (podpowiedzi) w pracy GPT. Mamy bardzo ograniczony wgląd w ogóle, bardzo wątłe wyobrażenie co tam się dzieje.

Redaktor radia WNET, Łukasz Jankowski :  Pan profesor unika i zresztą bardzo rozsądnie mówienia o tym co będzie na pewno, albo co w ogóle co może być w przyszłości. Spróbujmy chociaż trochę jakie zobaczyć mogą być konsekwencje. Czy np. Chat GPT 50 zastąpi Pana profesora na katedrze?

Prof. Andrzej Dragan: Podam Panu przykład. Jeden z największych krytyków i wyśmiewaczy wszystkich, którzy dostrzegają jakieś powody do ewentualnego niepokoju na okoliczność tych algorytmów czyli Yann LeCun, szef naukowy do spraw AI w firmie META, rok temu udzielał wywiadu, w którym mówił o możliwościach tych botów, śmiejąc się, że to jest w ogóle jakiś śmiech na sali, że to nic nie potrafi jeszcze. To było tuż przed Chat GPT 3,5. To jest model językowy, który tylko czyta tekst. Nigdy nie będzie potrafił robić prostych zadań, na które dla każdego są oczywiste. Podał taki przykład: jak wezmę telefon, położę go na stole i popchnę stół, to jest oczywiste, że ten stół przesunie się razem z telefonem, ale żaden model językowy nigdy nie będzie tego wiedział ucząc się tylko na podstawie tekstu i ani Chat GPT 3, 4, ani 5000 (to są jego słowa) tego nigdy nie zrobi. Trzy miesiące później wyszedł algorytm, wersja 3,5, który ten problem rozwiązał bez żadnego kłopotu. Trzy miesiące później, mówimy o najwybitniejszym specjaliście, który zajmuje się całe życie tylko tym, który nie potrafi przewidzieć umiejętności tych modeli z 3 miesięcznym wyprzedzeniem, mówiąc, że to się nigdy nie uda i kompromitując się w sposób skrajny, moim zdaniem, w tej wypowiedzi. Jak mnie Pan pyta czy coś kiedyś będzie czy nie będzie, to ja mogę tylko wzruszyć ramionami. Nie ma człowieka, który byłby w stanie przewidzieć i sformułować jakiekolwiek hipotezy czy przewidywania z kwantyfikatorem nigdy, zawsze albo kiedykolwiek. To jest niemożliwe.

Redaktor radia WNET, Łukasz Jankowski:  Są głosy rozdzielne, które mówią, że to będzie rewolucja jakiej człowiek nie widział. W ogóle może nawet od rewolucji neolitycznej są tacy, którzy mówią,  to jest mniejszość, to będzie kolejna rewolucja, trochę jak parowa, trochę jak elektryczność; dużo się zmieni, ale cywilizacja zostanie jak była. Oczywiście inna, ale dalej kontrolowana przez człowieka. Dzięki temu będziemy bogatsi. Lepiej będziemy żyć.

Prof. Andrzej Dragan: Tak. Myślę, że przez następne 20 lat to jest trafna diagnoza, ale tylko tyle. Myślę, że co się stanie po 20 latach tego nikt nie jest w stanie przewidzieć. Mówienie, jakiekolwiek przewidywanie, że to będzie tylko niewolnik, którego kontrolujemy, mimo że jest to niewolnik od nas inteligentniejszy – tutaj nie ma żadnych podstaw takie sformułowanie. Trudno jest utrzymać w ryzach byt, który nas przerasta pod każdym względem i którego nie rozumiemy. Nie wiemy co on tam w środku ma.

Redaktor radia WNET, Łukasz Jankowski :  Ale ten byt siedzi w komórce albo w komputerze.

Prof. Andrzej Dragan: Ale co z tego?

Redaktor radia WNET, Łukasz Jankowski : Nie stoi obok nas. Nie jest fizycznym zagrożeniem. Czy może być?

Prof. Andrzej Dragan: Nie jest fizycznym zagrożeniem? Czy Pan żarty sobie robi? Jakbym na przykład miał nieograniczoną inteligencję i możliwości programistyczne, nawet model językowy potrafi programować całkiem nie najgorzej, chociaż nie do tego został stworzony – to się przypadkowo udało. Gdybym zhakował chociażby system bitcoina albo włamał się do jakiegokolwiek banku, przelał sobie dowolną ilość pieniędzy, zbudował za to wieżowiec w środku miasta, skonstruował firmę, zatrudnił mniej ludzi bez wychodzenia z komórki. Wszystko to można zrobić. To jest oczywiście schemat Si-Fi na za 20 czy 50 lat. Już teraz te algorytmy, jak im dawano takie zadania, to wchodziły na „fever’a” (?) czyli na taką stronę gdzie można sobie wynająć człowieka do zrobienia czegokolwiek i był taki przykład, że ten algorytm został poproszony o to, żeby sforsował jakieś zabezpieczenie przed botami. Tam trzeba zaznaczyć taki kod, że jestem człowiekiem, zaznaczyć hydranty czy coś takiego. Algorytm wynajął sobie człowieka, który za niego to zrobił i mu wytłumaczył, że słabo widzi, w związku  z tym potrzebuje pomocy. Człowiek to zrobił za niewielką opłatą. Brak fizyczności nie jest absolutnie ograniczeniem.

Redaktor radia WNET, Łukasz Jankowski: To już z tą wiedzą zacznijmy ostatni wątek. Czy omylna istota jest w stanie regulacjami i działaniami administracyjnymi rządów spętać inteligentniejszego, mądrzejszego?

Prof. Andrzej Dragan: A jakby Pana drzewa chciały zniewolić? Opętać Pana, zbudować Panu klatkę, której by Pan nie opuścił? Drzewa, w których procesy biologiczne są o wiele rzędów wolniejsze niż to co Pan jest w stanie zrobić. Pan machnie ręką, a drzewu takie przesunięcie zajęłoby kilka miesięcy. Myśli Pan, że drzewa Pana ograniczą?

Redaktor radia WNET, Łukasz Jankowski: Z doświadczenia odpowiedź jest jasna.

Prof. Andrzej Dragan: Już teraz jest jasne, że tempo, ilość operacji, które wykonują te algorytmy jest nieporównywalnie większa. Neuron jest w stanie się „odpalić” parędziesiąt razy na sekundę (dokładnie nie pamiętam). Jest to wiele rzędów wielkości mniej niż to co robią te algorytmy. One są jeszcze mniej efektywne. One potrzebują dużo więcej danych treningowych. One uczą się jeszcze wolno. W momencie jak nas przegonią pod tym względem, będą posiadały umiejętności kognitywne, które nas przekraczają, to czym mielibyśmy je dominować? Tym, że my mamy wolę działania, a one nie – tak. Jeżeli pozwolimy im się modyfikować samodzielnie,  a pierwszym krokiem do tego jest nauka programowania. Obecnie te boty całkiem nie najgorzej programują na poziomie ucznia szkoły średniej nawet. Jak się zaczną same modyfikować to w ogóle nie będzie jakiejkolwiek kontroli nad tym i poczucie pewności, że wiemy co się dzieje, że mamy kontrolę będzie zupełną czystą iluzją.

Redaktor radia WNET, Łukasz Jankowski:  Pojawiły się głosy: moratorium. Jest przykład broni jądrowej. Zróbmy tak samo. Weźmy AI na postronek i spowolnijmy ją.

Prof. Andrzej Dragan: To się nie uda! Jak to ma się niby udać? Po pierwsze dążymy do tego, żeby takie duże sieci dało się odpalić na przeciętnym laptopie. To już do tego zmierza. No więc jak to zrobić? Gdyby technologia wybuchu bomby atomowej była tak prosta, że każdy mógłby ją zrobić w pokoju to żadne moratorium by nie pomogło. Po trzecie to przynosi wielkie dochody. To jest wielka korzyść finansowa mieć takie modele.

Redaktor radia WNET, Łukasz Jankowski :  Czy Pan profesor się zastanawiał jak takie modele sieci neuronowych, jak AI wpłynie na ekonomię która nas otacza?

Prof. Andrzej Dragan: Teraz jesteśmy na etapie Eldorado. Przez następne 20 lat to będzie taka świetlana przyszłość wyściełana dolarami, bo to przynosi tak niezwykłe zyski. Zwracam uwagę tylko, że wyobrażenia, że wszyscy bogacze na świecie to są fortuny dziedziczone z pokolenia na pokolenie – takie czasy skończyły się dawno temu jeżeli kiedykolwiek były. Pierwsze 10 najbogatszych firm obecnie na świecie całkiem niedawno, 30 lat temu, nie istniały w ogóle. Google, Microsoft, Facebook, Apple – tych firm w ogóle nie było. To są firmy, które powstały dzięki przełom technologicznym i zdetronizowały poprzednie firmy, które były kiedyś bogate z innych powodów. Technologia rozwija się jeszcze szybciej niż rozwijała dotąd i te przewroty technologiczne będą jeszcze szybsze, o wiele bardziej spektakularne i przemiany strukturalne najbogatszych firm też będą spektakularne. Najbliższy okres dopóki nie dojdziemy do takiej umownej osobliwości, jak to się nazywa, to będzie tylko i wyłącznie jeden wielki zysk i to jest taka droga usiana dolarami. Max [Stegment?] podaje taką analogię, że jest to taka droga na której będzie coraz więcej dolarów, coraz więcej dolarów, tylko że on uważa, że na końcu jest przepaść.

Redaktor radia WNET, Łukasz Jankowski : To na koniec pytanie: lubi Pan AI czy nie?

Prof. Andrzej Dragan: Jestem zafascynowany nią!

To jest niesamowite, że nauczyliśmy się tworzyć rzeczy, których nie rozumiemy. To jest szalenie fascynujące. Dotychczas, żeby zrobić telefon komórkowy potrzebny był człowiek, który mniej więcej kumał jak go zbudować i stado ludzi, którzy wiedzą jak wykonywać jego polecenia. Musieliśmy go zaprojektować. Jak pisaliśmy program komputerowy, system operacyjny czy jakikolwiek program, który robi cokolwiek to musieliśmy rozumieć jak działa algorytm tego programu. Musieliśmy go napisać; stworzyć, wymyśleć, przetestować, przerobić, itd. Obecnie nauczyliśmy się robić rzeczy, których nie rozumiemy. To jest rewolucja technologiczna, której, moim zdaniem nie było, ja bym porównał nie do maszyny parowej tylko do koła lub czegoś bardziej niesamowitego. To jest absolutna nowość. Jestem tym zafascynowany i strasznie zaciekawiony. Tak jak mówiłem żyjemy w ciekawych czasach. Szkoda, że następne będą jeszcze ciekawsze.

Moje uwagi:

Uważam, że pojęcia, takie jak np. emocje, świadomość i inne były zdefiniowane w stosunku do człowieka i nie powinny być przenoszone na, np. maszyny i ich „mózgi”. Chyba tak jak ja użyłem słowa „mózg” z cudzysłowem i tylko do jakiś odległych analogii. Celem tych analogii jest wytłumaczenie ludziom na przykładzie działania tychże maszyn. Później powinny być stworzone adekwatne nazwy pojęć odpowiadające  maszynom. Ogólnie maszyny to jednak nie są ludzie i nigdy (chyba) nimi nie będą w 100%. Zresztą (chyba) nie ma takiej potrzeby obecnie, a później tym bardziej.

Nawet ludzie ucząc się mówią o konieczności skupienia się czyli wyłączeniu niektórych wypustków (jak mówi profesor), żeby nie rozpraszać mózgu na innych czynnościach, chwilowo zbędnych i przeznaczenie większej „mocy” mózgu na  naukę.

*maszyny – to określenie już jest nieścisłe, bo to nie są maszyny skoro wykonują algorytmy czy programy komputerowe. Potrzebują jednak jakiejś obudowy, zasilania, itp. I na tym kończą się podobieństwa do maszyn.

*Deepfake - technika obróbki obrazu, polegająca na łączeniu obrazów twarzy ludzkich przy użyciu technik sztucznej inteligencji. Uzyskane w ten sposób łudząco realistyczne ruchome obrazy stosowane są w nagraniach filmowych, stwarzając możliwości manipulacji poprzez np. niemożliwą do odróżnienia przez widza zamianę twarzy aktorów występujących w filmie. Może to prowadzić do skompromitowania osoby poprzez fałszywe „obsadzenie jej”.

https://pl.wikipedia.org/wiki/Deepfake

https://www.youtube.com/watch?v=v4136HXC5ug

 

Ciekawe wywiady:

Sztuczna inteligencja już zyskała świadomość. Oto gdzie są jej granice | prof. Włodzisław Duch:

https://www.youtube.com/watch?v=zeGCPA4p6z0

 

Hodujemy gatunek, który będzie dominował nad nami intelektem: prof. Andrzej Dragan - didaskalia #7:

https://www.youtube.com/watch?v=HDre_o2qz1o

 

---

tagi: sztuczna inteligencja  ai  prof. andrzej dragan 

	Andrzej-z-Gdanska
	22 sierpnia 2023 06:35

80     2490    3 zaloguj sie by polubić