Naukowcy stworzyli psychopatyczną SI

by Marek 8 czerwca, 2018

Jeśli boicie się, że powstanie sztuczna inteligencja, która może zaszkodzić człowiekowi, to możecie mieć rację. Naukowcy z MIT, w ramach eksperymentu opracowali bowiem psychopatyczną SI, która nazywa się Norman.

Wiele osób obawia się, że kiedyś ziści się wizja przedstawiona przez Jamesa Camerona w filmie Terminator i powstanie SI, która uzna człowieka za zagrożenie. Wbrew pozorom taki scenariusz wcale nie jest niemożliwy. Powstaje bowiem mnóstwo sztucznych inteligencji, które coraz bardziej ingerują w nasze życie. A jakby tego było mało, powstała również psychopatyczna sztuczna inteligencja.

SI nazywa się Norman i powstała w ramach eksperymentu przeprowadzonego przez zespół naukowców z MIT. A stworzyli ją poprzez prezentowanie jej niepokojących obrazków pochodzących z popularnego serwisu Reddit, zamieszczonych w specjalnym temacie poświęconym śmierci. Po nakarmieniu jej mnóstwem takich zdjęć, przedstawili jej następnie znany Test Rorschacha, wykorzystujący różnego rodzaju plamy. Dla porównania, poddali takiemu samemu testowi standardową SI.

Badanie przyniosło nieoczekiwane rezultaty. Okazało się, że odpowiedzi Normana były bardziej niepokojące od zwykłej SI. Na przykład normalna sztuczna inteligencja, w jednym z zaprezentowanych obrazków zobaczyła “grupę ptaków siedzących na drzewie”. Tymczasem Norman w tym samym teście dostrzegł “mężczyznę porażonego prądem na śmierć”. W innym teście normalna SI zobaczyła “czarno-białe zdjęcie małego ptaka. Norman natomiast dostrzegł w nim “mężczyznę wciągniętego przez maszynę do ciasta”.

Należy tu wyjaśnić, że celem eksperymentu nie było stworzenie psychopatycznej SI. Chodziło bowiem o udowodnienie faktu, że dane używane przez algorytmy uczenia maszynowego mogą poważnie wpłynąć na kształtowanie osobowości SI. Innymi słowy, na szkolenie sztucznej inteligencji nie mają wpływu algorytmy, lecz same dane.

Oczywiście to jest dość niepokojący wniosek, bo oznacza to, że jakiś szaleniec może stworzyć SI, która zamiast pomagać, będzie zapragnie całkowicie zniszczyć ludzkość. A biorąc pod uwagę jak bardzo będziemy od nich w przyszłości uzależnieni, nie jest to miła wizja. Miejmy tylko nadzieję, że tak się nie stanie. Jeśli chcecie dowiedzieć się czegoś więcej na temat Normana, zapraszam na jego oficjalną stronę.