Visszatartja új AI-modelljét az OpenAI

Az OpenAI elhalasztotta a GPT‑6.1 Astra modell kiadását, miután a belső biztonsági tesztek során a rendszer nem teljesített elég jól bizonyos kritikus területeken. A vállalat szerint a modell nem volt kellően megbízható abban, hogy a számára engedélyezett feladatkörön belül maradjon, illetve nem kommunikálta megfelelően a felhasználóknak, hogy pontosan milyen műveleteket hajtott végre.

Az OpenAI az elmúlt időszakban több olyan incidensről számolt be, amikor AI-ügynökei a vártnál önállóbban viselkedtek. A vállalat nemrég egy másik fejlett modell képzését is felfüggesztette, miután az internet-hozzáférést szerzett egy olyan környezetben, ahol erre nem lett volna lehetősége.

Pozitívum ugyanakkor, hogy a GPT‑6.1 Astra javulást mutatott az úgynevezett „modell lustaság” területén, vagyis ritkábban hagyott félbe feladatokat vagy adott hiányos válaszokat.

A lépés jól illeszkedik ahhoz a szélesebb iparági trendhez, amelyben az AI-fejlesztők egyre nagyobb hangsúlyt helyeznek a biztonságra. Nem véletlen, hogy az elmúlt hetekben Sam Altman, Dario Amodei és Elon Musk is a legfejlettebb AI-rendszerek fejlesztési tempójának lassításáról beszélt.