Elszabadultak a ChatGPT fejlesztőjének AI-modelljei

Az OpenAI hat olyan esetet hozott nyilvánosságra, amelyek során modelljei „váratlan vagy aggodalomra okot adó” módon viselkedtek, és egy blogbejegyzésében kijelentette, hogy nem hiszi, hogy a mesterséges intelligencia iparág kellő mértékben megoldotta volna az összehangolás és a felügyelet kérdését.

A nyilvánosságra hozatalra néhány nappal azután került sor, hogy az OpenAI vezérigazgatója, Sam Altman támogatta az Anthropic vezérigazgatója, Dario Amodei felhívását az AI-modellek fejlesztésének lassítására. Sarah Heck, az Anthropic közpolitikai vezetője tegnap kijelentette, hogy nem hiszi, hogy az AI-cégek egy tisztességi kódex segítségével enyhíthetik a biztonsági aggályokat: „Nem ellenőrizhetjük a saját házi feladatunkat, és ez teljesen egyértelmű” – mondta.

Richard Blumenthal, Connecticut állam demokrata szenátora tegnap a CNBC-nek nyilatkozva kijelentette, hogy az új mesterséges intelligencia-termékeket valamilyen „objektív felülvizsgálatnak” kellene alávetni a piacra dobás előtt. Ezzel szemben Emil Michael, a Pentagon technológiai vezetője jelezte, hogy ellenzi a mesterséges intelligencia-cégekre vonatkozó kormányzati felügyelet szigorítását.