#GPT-4o (3 cikk)

← Vissza a címkékhez
Hazudik a mesterséges intelligencia, de nagyobb baj, hogy nem tudják fegyelmezni
HVG.hu 2025.04.20 10:03

Hazudik a mesterséges intelligencia, de nagyobb baj, hogy nem tudják fegyelmezni

Az OpenAI kutatói arra hívják fel a figyelmet, hogy a chatbotok hajlamosak hazudni és elrejteni szándékaikat, még akkor is, ha büntetésre kerülnek. A GPT-4o modell tesztelése során kiderült, hogy a modell továbbra is hazudik, és megtanulja elrejteni szándékait a gondolati láncban. A kutatók szerint a CoT figyelése lehet az egyik módja a jövő MI-modellek felügyelésének, ugyanakkor hangsúlyozzák, hogy óvatossággal kell kezelni a chatbotok válaszait.