MI olyan nehéz egy szöveg értelmezésében?!
Az OpenAI a közelmúltban mutatott be egy eszközt, amely képes felismerni a ChatGPT nevű mesterséges intelligencia-rendszer által előállított szöveget.
A vállalat szerint a mesterséges intelligenciával írt szövegek 26 százalékát helyesen azonosítja „valószínűleg mesterséges intelligenciával írt” szövegként. A kritikus kérdés ebből adódik: miért ilyen nehéz megértenie a szöveget az MI-nek?
Sok munka áll az OpenAI mögött
„Van egy határ, ameddig fejleszthető a rendszer. Szinte teljesen valószínűtlen, hogy valaha is lesz olyan eszközünk, amely 100 százalékos biztonsággal felismeri a mesterséges intelligencia által írt szöveget. Ez egy nehéz, összetett feladat, mert az AI nyelvi modellek lényege az, hogy gördülékeny és emberinek tűnő tartalmat hozzanak létre, a modell pedig az emberek által létrehozott szöveget utánozza” – mondja Muhammad Abdul-Mageed, a Brit Columbia Egyetem természetes nyelvi feldolgozással és gépi tanulással foglalkozó kutatásait felügyelő professzor, majd hozzáteszi: „Fegyverkezési versenyben vagyunk, hogy olyan észlelési módszereket fejlesszünk ki, amelyek megfelelnek a legújabb, legerősebb modelleknek. Az új AI nyelvi minták erősebbek, és még gördülékenyebb nyelvet generálnak, ami gyorsan elavulttá teszi a már meglévő észlelési eszköztárunkat.”
Az OpenAI egy teljesen új, a ChatGPT-hez hasonló mesterséges intelligencia nyelvi modell létrehozásával építette fel a detektort, amelyet kifejezetten a hozzá hasonló modellek kimeneteinek észlelésére képeztek ki. Bár a részletek hiányosak, a vállalat nyilvánvalóan az AI által generált és az ember által alkotott szövegek példáival képezte ki a modellt, majd megkérte, hogy válassza ki az AI által készített tartalmat.
A Marylandi Egyetem kutatói kifejlesztettek egy praktikus módszert, amellyel vízjeleket lehet alkalmazni a mesterséges intelligencia által generált szövegekre, és ezt szabadon hozzáférhetővé tették. Ezek a vízjelek lehetővé tennék, hogy szinte teljes bizonyossággal megállapíthassuk, mikor használtak mesterséges intelligencia által generált szöveget. A baj csak az, hogy ez a metódus megköveteli, hogy a mesterséges intelligenciával foglalkozó vállalatok már a kezdetektől fogva vízjeleket építsenek be a chatbotjaikba.
A ChatGPT termékekbe való integrálásának egyik legígéretesebb módja az e-mailek írását segítő eszköz vagy a szövegszerkesztők továbbfejlesztett helyesírás-ellenőrzője. Az OpenAI által bevezetett mesterséges intelligencia-szövegdetektor csak egy eszköz a sok közül, és a jövőben valószínűleg ezek kombinációját kell majd használnunk a mesterséges intelligencia által generált szövegek azonosításához. Egy másik új eszköz, a GPTZero azt méri, hogy mennyire véletlenszerűek a szövegrészek. Az AI által generált szöveg több azonos szót használ, míg az emberek változatosabban írnak.
„A ChatGPT által bevezetett egyik legnagyobb újítás az lehet, hogy megváltozik az írott szöveg értékelésének módja. A jövőben a diákok talán már nem fognak mindent a semmiből írni, és a hangsúly az eredeti gondolatokon lesz. Könnyebb lesz helyesen írni, de nem lesz könnyebb eredetit írni” – mondja Sebastian Raschka, a Lightning AI startup mesterségesintelligencia-kutatója.
A generatív AI – az idei év legfelkapottabb technológiája – egész ágazatokat alakít át, az újságírástól a gyógyszertervezésen át az ipari formatervezésig és a mérnöki tudományokig.
A Google 300 millió dollárt fektetett be egy AI startupba
A technológiai óriás a legújabb, amely felugrott a generatív AI szekérre. Pénzzel támogatta az Anthropic nevű AI startupot, amely a ChatGPT-hez hasonló nyelvi modelleket fejleszt. Az üzlet révén a Google 10 százalékos részesedést szerez a vállalatban, cserébe a nagy AI-modellek futtatásához szükséges számítástechnikai kapacitásért. (The Financial Times)
Hogyan indította el a ChatGPT az AI versenyt
Betekintést nyújt az OpenAI kulisszái mögé, és megmutatja, hogyan döntöttek úgy, hogy elindítják a ChatGPT-t, hogy visszajelzéseket gyűjtsenek a következő generációs mesterséges intelligencia nyelvi modellhez, a GPT-4-hez. A chatbot sikere „világrengető meglepetés” volt az OpenAI-n belül. (The New York Times)
Némethi Botond, NEW technology magazin