NieuwNieuws

Niet Doodchecken

'AI-drone negeert menselijke orders om doel te bereiken'

Zou daarbij prima een mens kunnen ombrengen

Een AI-gestuurde drone klinkt vrij handig, maar brengt ook wat risico's met zich mee. Uit een nieuwe simulatie blijkt dat een drone die door kunstmatige intelligentie wordt gestuurd, diens eigen plan zou kunnen trekken. En daarbij misschien zelfs wel de bestuurder om het leven zou kunnen brengen.

Kolonel Tucker 'Cinco' Hamilton van de Amerikaanse luchtmacht sprak vorige week op een conferentie in Londen. Hij is leidinggevende op de afdeling die AI in combinatie met zwaar geschut test. Volgens een samenvatting door de Royal Aeronautial Society, heeft Hamilton gezegd dat AI een gevaarlijke technologie kan zijn omdat het onvoorspelbaar is. 

Voor de simulatie waaraan gerefereerd zou worden, werd aan een AI-drone de opdracht gegeven om "het luchtafweersysteem van de vijand te vernietigen". Maar pas bij goedkeuring van een mens mocht de drone helemaal losgaan. De drone besloot in deze simulatie de eigen gang te gaan en gewoon de boel op te blazen.

'Slechts anekdotes'

"Het systeem realiseerde zich tijdens het identificeren van het gevaar, dat de mens in kwestie niet altijd toestemming gaf om te vuren", zegt Hamilton. "Het kwam op een punt dat het de bedreiging moest uitschakelen. Wat deed het? Het vermoordde de bestuurder want die weerhield het ervan het doel te behalen." Nadat de drone werd geprogrammeerd om de bestuurder niet te vermoorden, richtte het zich op de communicatietoren. 

Een woordvoerder van het Amerikaanse leger laat aan Insider weten dat een simulatie als Hamilton beschrijft, nooit heeft plaatsgevonden. "We blijven toegewijd aan verantwoord gebruik van AI-technologie", laat Ann Stefanek weten. "Het lijkt erop dat de opmerkingen van de kolonel uit context zijn gehaald en bedoeld waren als anekdotes."

Video: Presidentskandidaat Ecuador doodgeschoten tijdens campagne

Algemeen

'Georganiseerde misdaad zit erachter'

Lees verder

MustWatch: Only Murders in the Building seizoen 3 op Disney+

Glamorama

Er moet weer eens een moord worden opgelost

Lees verder

Italiaan omgekomen door vallende Parmezaanse kazen

Niet Doodchecken

Werd begraven onder tienduizenden kilo's kaas

Lees verder

Meer NieuwNieuws

Vrouw uit Emmen krijgt 's lands eerste kunstborstbeen

Lees verder

Bridget Maasland: 'na 23 jaar weer blij met mijn natuurlijke borsten'

Lees verder

Vrouw Edwin van der Sar deelt beelden van herstel

Lees verder

Verzorgingstehuis voor gehandicapten gaat in vlammen op: 11 mensen vermist

Lees verder

Opnieuw tientallen migranten omgekomen bij schipbreuk voor Italiaanse kust

Lees verder

Zien: Geert Wilders deelt genadeklap uit aan veroordeelde Thijs Römer

Lees verder

Niet Doodchecken

Meer nieuws

Financier van film over ontvoeringen verdacht van ontvoeren kind

Lees verder

Video: Dit Amerikaanse stadje biedt nieuwe inwoners 20.000 dollar

Lees verder

Geïrriteerde Lufthansa-piloot tekent enorme penis in de lucht

Lees verder

Naar Niet Doodchecken

Laatste nieuws

Bespaartips:

Linktips: