Evan Hubinger az X-en közzétett bejegyzésében azt írta, a jelenleg létező modellek jelentette kockázat „alacsony”, viszont „aggódik” amiatt, hogy a technológia képessé válhat önmaga fejlesztésére, hogy aztán elérje ezt a pontot.

Fogjunk össze és védjük meg közösen az értékeinket! Hit, család, nemzet - a Hetek ezért dolgozik. Állj mellénk te is: hetek.hu/tamogatas

A bejegyzést azután tette közzé, hogy a Financial Times beszámolt arról, hogy az Anthropic nem bocsátotta legújabb modelljét a mesterséges intelligenciát tesztelő, az amerikai kormányzat által támogatott AI Safety Institute rendelekzésére.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Hubinger X-en arra is kitért, hogy ők tényleg őszintén hisszik, hogy a mesterséges intelligencia az emberiség kipusztulásával fenyegető kockázatot jelent.

„Úgy gondolom, az Anthropic mindent megtesz, ami tőle telik, de még nincs tervünk a szuperintelligencia beállítáának megoldására, és egyelőre nem is látszik, hogy jó úton haladnánk e tekintetben”

– mondta.

Az MI-terület vezető alakjai évek óta kongatják a vészharangot a technológia jelentette biztonsági fenyegetés miatt, az OpenAI, a Google DeepMind és az Anthropic vezetői már 2023-ban ugyanezt nyilatkozták. Ám ezek a figyelmeztetések sokkal vészjóslóbbá váltak az elmúlt hetekben, miközben konkrét bizonyítékok merültek fel arra vonatkozóan, hogy a vállalatok mennyire komolyan küzdhetnek a mesterséges intelligencia kordában tartása érdekében.

A nyár folyamán vészjósló incidensek sora történt, amelyek során MI-ágensek – önálló működésre feljogosított MI-rendszerek – kibertámadásokat hajtottak végre. Az OpenAI, az Anthropic és a Meta egyaránt nyilvánosságra hozta az MI-eszközeik által elkövetett hackertámadásokat. Szeptemberben pedig az OpenAI vezető tudósa, Jakub Pachocki „rendkívüli óvatosságra” szólított fel a mesterséges intelligencia fejlődésével kapcsolatban, kienmelve, hogy több beavatkozásra lehet szükség annak biztosítására, hogy „az emberek kezében maradjon a jövő feletti ellenőrzés”. 

A terület meghatározó alakjai – köztük az Anthropic vezetője, Dario Amodei és Jared Kaplant - az elmúlt hónapokban az MI-fejlesztés lelassítását szorgalmazzák.

(BBC)