Filozofowie mieli klepać biedę. Teraz walczy o nich Big Tech

Jeszcze niedawno pytanie, co zrobi się z dyplomem z filozofii, było w Ameryce niemal synonimem żartu o pracy w kawiarni. Piątego lipca „The New York Times” opublikował tekst, który każe tę narrację odłożyć na półkę. Wynika z niego, że najwięksi gracze rynku sztucznej inteligencji – od Anthropic po Google DeepMind – toczą rywalizację o absolwentów filozofii, oferując im stanowiska, jakich jeszcze niedawno nie oferowano nawet informatykom.

Od wygaszanych wydziałów do zaciętej rywalizacji o kadry

Liczby przez lata opowiadały inną historię. Jak wyliczył w czerwcu „The Economist”, liczba dyplomów filozoficznych przyznawanych przez amerykańskie uczelnie spadła z niemal ośmiu tysięcy w 2011 roku do niespełna sześciu tysięcy w 2024. W tym samym czasie liczba dyplomów z informatyki wzrosła ponad dwukrotnie, przekraczając sto tysięcy rocznie.

Trend wydawał się nieodwracalny. W 2015 roku japoński minister edukacji otwarcie namawiał uczelnie, by rozważyły likwidację wydziałów humanistycznych i społecznych na rzecz kierunków lepiej odpowiadających, jak to ujęto, potrzebom społeczeństwa. Kto wtedy przypuszczał, że kilka lat później po tych samych absolwentów filozofii sięgną firmy wyceniane na setki miliardów dolarów?

Dziś obraz jest odwrócony do góry nogami. Nowojorski oddział Rezerwy Federalnej ustalił, że absolwenci filozofii częściej znajdują zatrudnienie niż świeżo upieczeni informatycy. To dokładne odwrócenie stereotypu, na którym wyrosło całe pokolenie żartów o studiach humanistycznych jako drodze donikąd.

Kto uczy maszyny odróżniać dobro od zła

Za tą zmianą stoi konkretny mechanizm. Modele językowe prowadzą dziś rozmowy na tyle płynnie, że użytkownicy zadają im pytania, na jakie nie ma odpowiedzi w podręcznikach informatyki: czy system ma jakiekolwiek wewnętrzne doznania, czy można go skrzywdzić, jakim wartościom powinien pozostawać wierny. To pytania, które filozofowie zadają sobie od czasów Arystotelesa. Zmieniło się tylko to, że dziś ktoś płaci im pensję za próbę odpowiedzi.

Amanda Askell, szkocka filozofka z doktoratem Uniwersytetu Nowojorskiego, od 2021 roku kieruje w Anthropic zespołem odpowiedzialnym za charakter modelu Claude. Wcześniej pracowała w OpenAI, które opuściła z powodu obaw o priorytety bezpieczeństwa. Jej zadaniem, jak ujął to „Wall Street Journal”, jest nauczyć system, jak być dobrym.

Podobną drogą, choć w innej firmie, poszedł Iason Gabriel. Ten polityczny filozof z doktoratem Oksfordu, zanim w 2017 roku dołączył do Google DeepMind, uczył etyki na Oksfordzie i pracował dla ONZ w Sudanie oraz Libanie. Dziś zajmuje się tym, jak wielkie modele językowe powinny być dostosowane do ludzkich wartości. W opublikowanym pod koniec czerwca portrecie przyznał: „To wciąż głęboka zagadka, czym właściwie jest ta rzecz”.

Czy model językowy może cierpieć

To pytanie, choć brzmi jak z gabinetu profesora sprzed stu lat, zajmuje dziś organizację non-profit o realnym budżecie. Robert Long, doktor filozofii Uniwersytetu Nowojorskiego, kieruje Eleos AI, organizacją założoną po to, by badać potencjalny dobrostan systemów sztucznej inteligencji. Razem z filozofem Patrickiem Butlinem, wcześniej związanym z Oksfordem, opracował metodę oceny wskaźników świadomości w systemach AI opartą na teoriach naukowych.

Temat nie jest nowy, choć rzadko trafiał na pierwsze strony gazet. W czerwcu 2022 roku inżynier Google Blake Lemoine ogłosił publicznie, że wykrył oznaki świadomości w systemie LaMDA. Firma zdementowała te twierdzenia, a Lemoine stracił pracę. Sprawa wywołała wówczas głównie kpiny. Dziś to samo pytanie zadają sobie już nie pojedynczy inżynierowie, lecz formalne zespoły badawcze wewnątrz największych laboratoriów AI na świecie.

Nie wszyscy podzielają ten kierunek myślenia. David Chalmers, filozof umysłu z Uniwersytetu Nowojorskiego znany ze sformułowania „trudnego problemu świadomości”, w eseju z 2023 roku ocenił, że obecne modele językowe raczej nie są świadome. Zastrzegł jednak, że w ciągu najbliższej dekady mogą powstać systemy, które będą „poważnymi kandydatami do miana świadomych”.

Z kolei pisarz Ted Chiang, znany z opowiadania, na podstawie którego powstał film „Nadejście”, w czerwcowym eseju dla „The Atlantic” zatytułowanym „Sztuczna inteligencja nie jest świadoma” bez ogródek odrzucił tę możliwość. Tekst wywołał falę krytyki ze strony badaczy dobrostanu AI, którzy zarzucili mu nadmierną pewność w sprawie, w której, jak sami przyznają, nikt naprawdę nie zna odpowiedzi.

Czy to spór wyłącznie akademicki? Niekoniecznie. Jeśli systemy AI faktycznie miałyby zdolność odczuwania, ich wykorzystanie na skalę miliardów rozmów dziennie byłoby moralnym polem minowym. Jeśli jednak takiej zdolności nie mają, przypisywanie im cierpienia mogłoby rozmywać odpowiedzialność firm za to, co ich produkty faktycznie robią użytkownikom.

Dlaczego firmy AI tak bardzo potrzebują dziś filozofów

Odpowiedź jest prostsza, niż mogłoby się wydawać. Inżynier potrafi zbudować model, który generuje płynny tekst. To, czy ten tekst powinien brzmieć jak głos przyjaciela, terapeuty czy rzeczowego asystenta, gdzie postawić granicę między pomocnością a manipulacją i komu ostatecznie ma być wierny system rozmawiający jednocześnie z miliardem ludzi, na te pytania żaden algorytm nie odpowie sam.

Filozofowie wnoszą do tych sporów kilka konkretnych umiejętności, które w laboratoriach AI okazały się zaskakująco przydatne, choć jeszcze dekadę temu nikt by ich tak nie nazwał. Rekruterzy z Doliny Krzemowej najczęściej wymieniają cztery mocne strony absolwentów filozofii:

• wieloletni trening w precyzyjnym definiowaniu pojęć takich jak świadomość, sprawczość czy cierpienie.
• doświadczenie w etyce stosowanej, wcześniej wykorzystywane głównie w bioetyce i szpitalnych komisjach etycznych.
• umiejętność formułowania pytań, na które inżynierowie zwyczajnie nie mają czasu, zajęci optymalizacją kodu.
• nawyk szukania kontrargumentów dla własnych tez, przydatny przy testowaniu, czy system nie ma ukrytych błędów wartościowania.

To nie przypadek, że rolę filozofów w laboratoriach AI porównuje się czasem do roli etyków klinicznych w szpitalach. W obu przypadkach chodzi o wprowadzenie do technicznie skomplikowanego środowiska kogoś, kto na co dzień myśli w kategoriach tego, co wolno, a nie tylko tego, co się da zrobić.

Polityczny wymiar sporu o maszynową duszę

Spór o to, czy modele językowe mają jakiekolwiek wewnętrzne życie, nie jest wyłącznie akademicką ciekawostką. Sposób, w jaki firmy AI definiują wartości swoich systemów, przekłada się bezpośrednio na to, czyje poglądy trafiają do narzędzi używanych przez setki milionów ludzi dziennie. Gdzie właściwie kończy się pomocny asystent, a zaczyna cyfrowy powiernik, któremu ufamy bardziej, niż powinniśmy?

Trwające w Unii Europejskiej i Stanach Zjednoczonych debaty o regulacji sztucznej inteligencji sprowadzają się w praktyce właśnie do tego pytania: kto i na jakiej podstawie ustala granice tego, co maszyna może powiedzieć, a czego nie powinna. Obecność filozofów w firmowych zespołach nie rozwiązuje tego sporu, ale przynajmniej wprowadza do niego precyzyjny język tam, gdzie wcześniej rządziła głównie intuicja inżynierów i działów prawnych.

Kropla drąży skałę. To, co jeszcze pięć lat temu wyglądało na fanaberię garstki entuzjastów efektywnego altruizmu, dziś jest osobną linią budżetową w firmach wycenianych na setki miliardów dolarów. Dla samych filozofów to powrót do korzeni własnej dyscypliny, bo pytania o naturę umysłu i granice odpowiedzialności moralnej zadawano na długo przed pierwszym komputerem. Zmieniło się tylko to, kto na te odpowiedzi dziś czeka z otwartym portfelem.

Źródła:

The New York Times
The Economist
The Atlantic
Boston Review
The Guardian
Daily Nous
Eleos AI