Steven Rosenbaum, twórca głośnej książki zatytułowanej „The Future of Truth”, przyznał się, iż jego publikacja traktująca o oddziaływaniu SI na prawdę zawiera wymyślone cytaty stworzone przez sztuczną inteligencję. Kwestię tę na światło dzienne wydobyło dziennikarskie dochodzenie „The New York Times”.
Książka o fałszach SI zawierała nieprawdziwe cytaty wygenerowane przez sztuczną inteligencję
Kacper Komaiszko
Książka „The Future of Truth” (Przyszłość prawdy) została wydana w tym miesiącu i szybko zyskała popularność w amerykańskich mediach. Publikacja, reklamowana między innymi przez laureatkę Pokojowej Nagrody Nobla Marię Ressę, miała stanowić wiarygodne ostrzeżenie przed niszczącym wpływem algorytmów na dyskusję publiczną. Jak stwierdził wszakże dziennik „The New York Times”, analiza materiałów źródłowych przez autora okazała się złudna. W rozdziałach poświęconych między innymi dezinformacji sztuczna inteligencja (narzędzia ChatGPT oraz Claude) samoczynnie stworzyła wypowiedzi znanych osobistości ze świata nauki i mediów, które następnie uznano za prawdziwe.
Reklama Reklama 
Literatura Tokarczuk flirtowała z AI, pisząc nową powieść. Kto wykryje owoce złego romansu?
Z pewnym opóźnieniem dociera do nas wiadomość, iż podczas pisania nowej książki noblistka Olga Tokarczuk miała styczność z AI. Każdy czytelnik zastana…
Afera w książce o AI. Sztuczna inteligencja wymyśliła cytaty
Dziennikarze „The New York Times” nawiązali kontakt z osobami wymienionymi w książce. Jedną z nich była znana komentatorka spraw technologicznych Kara Swisher. W publikacji przypisano jej rozbudowany, metaforyczny monolog o AI jako „zwierciadle odzwierciedlającym naszą moralność”. Swisher kategorycznie zdementowała wygłoszenie tych słów, podkreślając, że styl wypowiedzi jednoznacznie sugeruje ingerencję bota.
Podobny schemat dotyczył słów prof. Lisy Feldman Barrett z Northeastern University. W rozdziale analizującym zachowania młodzieży w sieci przypisano jej twierdzenia z książki „Jak powstają emocje”. Badaczka w odpowiedzi dla nowojorskiego dziennika zaznaczyła, że wskazane frazy nie znajdują się w jej książce, a zawarte w nich tezy są mylne z punktu widzenia metodologii naukowej.
Literatura Oświadczenie Tokarczuk ws. korzystania z AI przy pisaniu nowej powieści. „Krótko i stanowczo”
Po niedawnej wypowiedzi Olgi Tokarczuk na temat użycia sztucznej inteligencji w pracy twórczej, na noblistkę posypały się słowa krytyki. Pisarka wyda…
Przypadek Rosenbauma demonstruje problem tzw. halucynacji SI w kontekście mieszania prawdy z fikcją. Profesor Meredith Broussard potwierdziła, że jej słowa umieszczone w „The Future of Truth” padły w audycji radiowej, a nie w dziele, które wskazał autor. Z kolei badacz Lee McIntyre spostrzegł, że algorytm dokładnie opisał jego wnioski naukowe, lecz arbitralnie dopisał do nich wyrażenia w cudzysłowie, których naukowiec nigdy osobiście nie użył.
„The Future of Truth” Stevena Rosenbauma przestrogą dla wydawców
W oficjalnym oświadczeniu Steven Rosenbaum wziął na siebie całkowitą odpowiedzialność za zaistniałe pomyłki. Wyjaśnił, iż wspieranie się sztuczną inteligencją miało charakter wspomagający podczas researchu i redakcji, a wprowadzenie nieprawdziwych wyrażeń było incydentem, a nie zamierzoną manipulacją. Obiecał również usunięcie błędnych fragmentów w kolejnych wydaniach książki.
Wydawnictwo Simon and Schuster, odpowiadające za dystrybucję, zrezygnowało z komentarza. Incydent ten wpisuje się jednak w szerszą tendencję niepokoju na rynku wydawniczym. Coraz więcej wydawców weryfikuje procedury sprawdzania treści pod kątem powszechnego i niekontrolowanego użycia modeli językowych przez pisarzy.