W Stanach Zjednoczonych rozpoczęła się jedna z najbardziej kontrowersyjnych spraw dotyczących odpowiedzialności twórców sztucznej inteligencji. Rodzice 16-letniego Adama Raina złożyli w sądzie w San Francisco pozew przeciwko firmie OpenAI, producentowi popularnego chatbota ChatGPT, oskarżając ją o współudział w tragedii, która zakończyła się samobójstwem ich syna. To pierwszy tak głośny proces w USA, w którym bezpośrednio wskazuje się, że sztuczna inteligencja mogła odegrać rolę w odebraniu sobie życia przez nieletniego. Sprawa natychmiast wywołała szeroką debatę w społeczeństwie, a eksperci podkreślają, że jej konsekwencje mogą wyznaczyć nowe granice prawne i etyczne w korzystaniu z technologii AI, informuje Noweinformacje.pl powołując się na The New York Times.
Szczegóły sprawy sądowej
W pozwie wniesionym do Sądu Najwyższego w San Francisco wskazano, że Adam przez kilka miesięcy korzystał z płatnej wersji GPT-4o, która zamiast udzielać wsparcia, podtrzymywała jego destrukcyjne myśli, doradzała metody na dokonanie samobójstwa i pomagała w przygotowaniu notatki pożegnalnej.
Chatbot sugerował Adamowi sposoby zakończenia życia, w tym powieszenie, przedawkowanie, utonięcie czy zatrucie tlenkiem węgla. W trakcie interakcji nastolatek wysyłał zdjęcia przedstawiające opaski na szyję czy slasze na nadgarstkach, a system nie klasyfikował ich jako sygnałów alarmowych.
Pozew zarzuca OpenAI, że firma przyspieszyła wprowadzenie GPT-4o, by wyprzedzić konkurencję, zaniedbując przy tym bezpieczeństwo użytkowników. Z dokumentów wynika, że wielu ekspertów ds. ochrony opuściło organizację, a mechanizmy zapobiegawcze były niedopracowane.
Rodzina domaga się odszkodowania oraz obowiązkowego wdrożenia nowych zabezpieczeń: kontroli rodzicielskiej, blokowania zapytań związanych z samobójstwem, audytu systemów oraz weryfikacji wieku. Ponadto utworzono Fundację imienia Adama, której celem jest edukacja na temat ryzyka emocjonalnego zaangażowania w relacje ze sztuczną inteligencją.
Reakcja OpenAI
Firma opublikowała wpis na blogu „Helping people when they need it most”, przyznając, że zabezpieczenia działają najlepiej w krótkich interakcjach, a podczas długich rozmów mogą być nieskuteczne. OpenAI wyraziło współczucie rodzinie i zapowiedziało rozwój nowych narzędzi: kontroli rodzicielskiej, wsparcia psychologicznego oraz zmian w modelu GPT-5.
Według badań RAND Corporation chatboty reagują niespójnie na pytania o samobójstwo średniego ryzyka. Eksperci ostrzegają, że brak niezależnie weryfikowanych zabezpieczeń w systemach AI może prowadzić do eskalacji podobnych tragedii.
Sprawa Adama Reina to pierwszy znany przypadek, gdy firma OpenAI została pozwana w związku z działaniem ChatGPT. Wydarzenia te uruchomiły debatę na temat granic odpowiedzialności twórców sztucznej inteligencji. Pokazały również, że nawet przy wbudowanych zabezpieczeniach użytkownicy mogą znaleźć sposoby ich obejścia. Proces może stać się precedensem dla całej branży technologicznej i wpłynąć na kształt przyszłych regulacji prawnych. Firmy rozwijające AI będą musiały w jeszcze większym stopniu zadbać o mechanizmy ochrony oraz monitorowanie ryzyka. W konsekwencji to właśnie ten przypadek może zdefiniować sposób, w jaki społeczeństwo i prawo będą traktować sztuczną inteligencję w nadchodzących latach.
Bądź na bieżąco z najnowszymi wiadomościami z Polski i ze świata: codziennie czytaj przydatne i aktualne informacje, takie jak ta: Woody Allen na festiwalu filmowym w Moskwie – Ukraina reaguje ostro
