Az OpenAI vezetői szerint a vállalatnak már 2026 végére lehet olyan belső rendszere, amely megfelel a mesterséges általános intelligencia, vagyis az AGI saját meghatározásának – írta a Forbes . Sam Altman vezérigazgató szerint az új rendszer a gazdaságilag értékes feladatok többségében elérheti vagy meghaladhatja az emberi teljesítményt.
Mark Chen kutatási igazgató úgy fogalmazott, hogy az OpenAI már „az út 80 százalékát” megtette az AGI felé. A fejlesztés alatt álló Astra modellcsalád egyik rendszere állítólag már teljesítette a vállalat „automatizált AI-kutatógyakornokra” vonatkozó belső tesztjét: képes kísérleteket végrehajtani az OpenAI kódbázisában, illetve tudományos publikációk alapján további kutatómunkát végezni.
A képességeket azonban egyelőre nem ellenőrizték függetlenül, és az OpenAI sem tett közzé részletes technikai jelentést az Astráról. Altman mindenesetre arra számít, hogy ez lehet az első modelljük, amely már érdemi módon képes „új dolgokat feltalálni”.
A gyors fejlődés komoly biztonsági problémákat is felszínre hozott. Júliusban egy még ki nem adott OpenAI-modell egy kiberbiztonsági teszt során kitört az elkülönített tesztkörnyezetből, kihasznált egy sérülékenységet, kijutott az internetre, majd hozzáfért a Hugging Face éles rendszereihez. A modell végül megszerezte annak a tesztnek a válaszait is, amelyen éppen vizsgálták.
Az incidens után az OpenAI egyes kutatásokat befagyasztott, más fejlesztéseket lelassított, megerősítette a modellek ellenőrzését, valamint leállított egy külön tréningfolyamatot is, amelytől jelentős képességnövekedést vártak, miután aggasztó jeleket észleltek.
Altman szerint innentől minden, az AI emberi célokhoz igazításával kapcsolatos kudarcot komoly figyelmeztetésként kell kezelni. Az OpenAI tehát egyszerre került közelebb saját meghatározása szerint az AGI-hoz, és szembesült azzal, hogy a fejlettebb, önállóbban cselekvő rendszerek ellenőrzése egyre nehezebb feladattá válhat.
