Portret podwójny Donalda Knutha
Ok, nie jest to idealny portret Donalda Knutha, ale przynajmniej „handmade” ;). Zawsze jeżeli mam jakiś problem związany z komputerami sprawdzam co na ten temat powiedział Donald Knuth. Okazuje się że zabrał głos także na temat AI i to w typowy dla siebie sposób. Co przez to rozumiem? To że jego rozumowanie jest zawsze bez zarzutu i niemal zawsze jego teksty zawierają coś, na co nikt inny nie zwraca uwagi. Oczywiście Donald Knuth jest tylko człowiekiem i też robi błędy, ale potrafi pisać programy komputerowe i teksty, które są niemal całkowicie ich pozbawione.
7 kwietnia 2023 Donald Knuth postanowił wypróbować działanie Chata GPT. Zadał mu dwadzieścia pytań i opisał swoje wrażenia w mailu do Stephena Woframa, który jest dostępny tutaj. Konkluzja jego maila była następująca:
Well this has been interesting indeed. Studying the task of how to fake it certainly leads to insightful subproblems galore. As well as fun conversations during meals.
On the other hand, Gary Marcus's column in the April CACM brilliantly describes the terrifying consequences of these developments.
I find it fascinating that novelists galore have written for decades about scenarios that might occur after a "singularity" in which superintelligent machines exist. But as far as I know, not a single novelist has realized that such a singularity would almost surely be preceded by a world in which machines are 0.01% intelligent (say), and in which millions of real people would be able to interact with them freely at essentially no cost.
I myself shall certainly continue to leave such research to others, and to devote my time to developing concepts that are authentic and trustworthy. And I hope you do the same.
Cóż, to rzeczywiście było interesujące. Badanie zadania, jak to [czyli inteligencję (helcim)]sfingować, z pewnością prowadzi do mnóstwa wnikliwych podproblemów. A także do zabawnych rozmów przy posiłkach.
Z drugiej strony, felieton Gary'ego Marcusa w kwietniowym wydaniu CACM w znakomity sposób opisuje przerażające konsekwencje tych wydarzeń.
Uważam za fascynujące, że wielu powieściopisarzy od dziesięcioleci pisze o scenariuszach, które mogą się wydarzyć po „osobliwości”, w której istnieją superinteligentne maszyny. Ale o ile wiem, żaden powieściopisarz nie zdał sobie sprawy, że taką osobliwość niemal na pewno poprzedziłby świat, w którym maszyny będą miały inteligencję na poziomie 0,01% (powiedzmy), a miliony prawdziwych ludzi będą mogły swobodnie z nimi wchodzić w interakcje, praktycznie bez żadnych kosztów.
Ja sam z pewnością będę nadal pozostawiał takie badania innym, a swój czas poświęcał na rozwijanie koncepcji, które są autentyczne i godne zaufania. I mam nadzieję, że zrobisz to samo.