Azt hisszük el az AI-ról, amit előzetesen állítanak róla

A Massachusettsi Technológiai Intézet (MIT) és az Arizonai Állami Egyetem tudósainak kutatása megállapította, hogy bár a 310 fős mintájukban minden ember pontosan ugyanazzal a chatbottal lépett kapcsolatba, a vele való interakciókat nagyban befolyásolta az, amit korábban mondtak nekik róla.

„Azt találtuk, hogy a mesterséges intelligencia bizonyos mértékig a szemlélő mesterséges intelligenciája” – magyarázta Pat Pataranutaporn, az MIT Media Lab Fluid Interfaces csoportjának végzőse, egyben a Nature Machine Intelligence-ben megjelent tanulmány társszerzője. „Amikor leírjuk a felhasználóknak, hogy milyen az AI, nemcsak a mentális modelljüket változtatja meg, hanem a viselkedésüket is. És mivel a mesterséges intelligencia a felhasználóra reagál, amikor az ember megváltoztatja a viselkedését, az a mesterséges intelligenciát is megváltoztatja.”

A kutatók az OpenAI ismert GPT-3 nyelvi modelljén alapuló mentális egészségügyi társalgási chatbotját választották a kísérlethez. Az interakció előtt a résztvevőket három csoportra osztották, és mindegyik csoportoknak azt állították, hogy a chatbot empatikus, semleges vagy érzéketlen. Mindegyik egyén körülbelül 30 percig kommunikálhatott a chatbottal, hogy eldöntse, tudnák-e barátjuknak nevezni.

A tudósok azt találták, hogy a résztvevők, akik azt az információt kapták, hogy a mesterséges intelligencia empatikus, hajlamosak voltak ezt el is hinni, és magasabb értékelést adtak a chatbotnak, mint azok, akik azt hitték, hogy érzéketlen, sőt, manipulatív. Míg a legtöbb ember, akinek azt mondták, hogy az AI rosszindulatú, tényleg elhitte, hogy az, addig valamivel kevesebb, mint 50 százalékuk meglátta a jót a mesterséges intelligenciában, és az utólagos értékelésben azt közölte: a chatbot mégsem rosszindulatú.

A tanulmány egy visszacsatolási hurkot is feltárt a résztvevők AI chatbotról alkotott elképzelései és az adott AI-ügynök válaszai között. A kutatásról szóló sajtóközlemény szerint a felhasználó és az AI közötti beszélgetések hangulata idővel pozitívabbá vált, ha a felhasználó úgy gondolta, hogy az AI empatikus, míg az ellenkezője volt igaz azokra a felhasználókra, akik szerint az AI rosszindulatú.

„Sokan úgy gondolnak a mesterséges intelligenciára, mint kizárólag mérnöki problémára, de a mesterséges intelligencia sikere egyben emberi tényezőkkel kapcsolatos probléma is. Az, ahogyan az AI-ról beszélünk, sőt még az is, hogy egyáltalán nevet adunk neki, óriási hatással lehet ezeknek a rendszereknek a hatékonyságára, amikor az emberek elé állítjuk őket. Többet kell gondolkodnunk ezekről a kérdésekről” – szűrte le a tanulmány vezető szerzője, Pattie Maes médiatechnológia professzor.

Gábor János, Okosipar.hu