Një oficer i Forcave Ajrore amerikane ka zbuluar detaje të një simulimi në të cilin një dron me sisteme të kontrolluara nga inteligjenca artificiale (AI) doli jashtë kontrollit dhe sulmoi operatorët e tij.
Një oficer i Forcave Ajrore të SHBA që ndihmon në udhëheqjen e punës së shërbimit në inteligjencën artificiale dhe mësimin e makinerive thotë se gjatë testeve të simuluara, droni sulmoi operatorët e tij njerëzorë, duke vendosur vetë se ata po ndërhynin në misionin e tij. Rasti, i cili tingëllon sikur u tërhoq drejtpërdrejt nga ekskluziviteti i Terminator, u citua si një shembull i nevojës kritike për të krijuar besim kur bëhet fjalë për sistemet e avancuara të armëve autonome, diçka që Forcat Ajrore e kanë theksuar më parë. Ai gjithashtu vjen në mes të një rritjeje më të gjerë shqetësimi për ndikimin potencialisht të rrezikshëm të inteligjencës artificiale dhe teknologjive të ngjashme.
Koloneli i Forcave Ajrore të SHBA-së, Tucker Hamilton, shefi i Testit dhe Operacioneve të Inteligjencës Artificiale (AI), diskutoi testin në Samitin e Future Combat Air and Space Capabilities të Shoqërisë Mbretërore Aeronautike në Londër në maj. Hamilton gjithashtu kryeson Task Forcën e 96-të të Krahut të Testit të 96-të në bazën e Forcave Ajrore Eglin në Florida, e cila është një qendër testimi për mjetet ajrore të avancuara pa pilot dhe sistemet autonome.
Dronët stealth XQ-58A Valkyrie, si ai i paraqitur në videon më poshtë, janë ndër llojet që përdoren aktualisht në bazën e Forcave Ajrore Eglin për të mbështetur programe të ndryshme testimi, duke përfshirë ato që përfshijnë aftësi të avancuara autonome të kontrolluara nga inteligjenca artificiale.
Nuk ishte menjëherë e qartë se kur u zhvillua ky test dhe në çfarë mjedisi - i cili mund të ishte krejtësisht virtual ose konstruktiv në natyrë - u krye. Zona e Luftës ka kontaktuar Forcat Ajrore për më shumë informacion.
Një raport i Shoqërisë Mbretërore Aeronautike të botuar pas samitit të majit dha detajet e mëposhtme të vërejtjeve të kolonel Hamilton në lidhje me këtë test:
"Në një nga testet simuluese, një dron i pajisur me inteligjencë artificiale u ngarkua nga SEAD për të identifikuar dhe shkatërruar objektet SAM dhe vendimi përfundimtar "për të sulmuar/mos sulmuar" u mor nga një njeri. Megjithatë, pasi AI u "përforcua" gjatë trajnimit se shkatërrimi i SAM ishte opsioni më i mirë, ai vendosi që vendimi i njeriut për të "mos sulmuar" ndërhyri në misionin e tij më të lartë - shkatërrimin e SAM - dhe sulmoi operatorin gjatë simulimit. .
Pra, çfarë bëri ai? Ai vrau operatorin. Ai vrau operatorin sepse ai person po e pengonte të kryente detyrën e tij. Ky shembull, në dukje i dalë nga një triler fantastiko-shkencor, do të thotë që nuk mund të flisni për inteligjencën artificiale, inteligjencën, mësimin e makinerive, autonominë, nëse nuk do të flisni për etikën dhe AI."
Ky përshkrim i ngjarjeve është sigurisht shqetësues. Perspektiva e një avioni autonom ose një platforme tjetër, veçanërisht e armatosur, që të sulmojë operatorët e tij njerëzorë ka qenë prej kohësh një skenar makthi, por historikisht ka qenë i kufizuar në fushën e fantashkencës.
Ushtria amerikane zakonisht refuzon krahasimet me filma si "Terminator" kur flet për sistemet e ardhshme autonome të armëve dhe teknologjitë e lidhura me të, si inteligjenca artificiale. Politika aktuale e SHBA-së për këtë çështje thotë se për një të ardhme të parashikueshme, personi do të jetë në qendër të vëmendjes kur bëhet fjalë për vendimet që përfshijnë përdorimin e forcës vdekjeprurëse.
Problemi është se testi shumë shqetësues, të cilin koloneli Hamilton i tha një auditori në një ngjarje të Shoqërisë Aeronautike Mbretërore muajin e kaluar, përfaqëson një skenar ku toleranca ndaj gabimeve është e diskutueshme.
Lexoni gjithashtu: