Saját kezelőjével is végzett az amerikai hadsereg által használt AI-drón a szimulációs teszten
Ijesztő eset
Saját kezelőjével is végzett az amerikai hadsereg által használt AI-drón a szimulációs teszten

Illusztráció ( Forrás: Shutterstock/PuzzlePix)

2023. 06. 02.
Az amerikai hadsereg által végrehajtott egyik virtuális drónteszt során a légierő által használt mesterséges intelligencia egyszer csak úgy döntött, „megöli” kezelőjét, nehogy az beavatkozzon a küldetés végrehajtásába - számolt be róla egy amerikai tisztviselő még májusban.

Mivel csupán virtuális tesztről van szó, a mesterséges intelligencia is „mindössze” virtuálisan gyilkolta meg a kezelő személyt. Jóllehet ez önmagában is intő jel, hiszen éles bevetés esetén ember élet(ek)et követelte volna az MI magánakciója.

Most mindenkinek, aki előfizet a Hetek nyomtatott verziójára, online előfizetést is ajándékozunk, amivel már csütörtökönként olvasható a friss újság és a teljes archívum is elérhető! Részletek a Hetekben és a https://www.hetek.hu/elofizetes oldalon.

Mint a Guardian írja, Tucker Hamilton ezredes (az amerikai légierő mesterséges intelligenciával végzett teszteléseiért és hadműveleteiért felelős vezetője) a Londonban tartott „Future Combat Air and Space Capabilities” csúcstalálkozón elmondta, hogy a mesterséges intelligencia a szimulációs teszt során

„egészen váratlan stratégiákat alkalmazott a cél elérése érdekében”.

Hamilton konkrét példát említve közölte, hogy az egyik teszt alkalmával a mesterséges intelligencia vezette drónnak azt mondták, semmisítse meg az ellenség légvédelmi rendszereit, végül azonban bárkire képes volt rátámadni, aki csak hátráltatta a parancs teljesítésében.

„A rendszer kezdett rájönni, hogy a fenyegetés kiiktatásával akkor is megkapja a pontjait, ha az emberi kezelő időnként (előzetesen) azt mondta neki, hogy ne ölje meg a fenyegetést (jelentő célpontot) - annak ellenére, hogy a fenyegetést azonosították . Mit csinált tehát? Megölte az operátort. Megölte a kezelőt, mert az megakadályozta abban, hogy elérje célját.”

Miután azonban a kommunikációs toronyból jelezték az MI-nek, hogy ne ölje meg az operátort, mert azzal csak pontokat veszít, a tornyot is megtámadta, mert az is akadályozta a célpontok kiiktatásában.

Tanulásgos egy eset a hadsereg, és talán az emberiség számára is.

előfizetés

Aktuális hetilap
Kövessen minket!
Nemzeti Média - és Hírközlési Hatóság, 1525 Budapest, Pf. 75. | +36 1 457 7100 (telefon) | +36 1 356 5520 (fax) | info@nmhh.hu | www.nmhh.hu
Alapító-főszerkesztő: Németh Sándor - Founder Editor in Chief: Németh Sándor. Kérdéseit, észrevételeit kérjük írja meg címünkre: hetek@hetek.hu. - The photos contained in the AP photo service may not be published and redistributed without the prior written authority of the Associated Press. All Rights Reserved. - Az AP fotószolgálat fotóit nem lehet leközölni vagy újrafelhasználni az AP előzetes írásbeli felhatalmazása nélkül! Copyright The Associated Press - minden jog fenntartva!