DA LI SE VEŠTAČKA INTELIGENCIJA OKREĆE PROTIV ČOVEKA? Dron je navodno u simulaciji ubio vojnika koji je njim upravljao, Ameri demantuju sve

Poricanje prati pukovnika koji kaže da je dron koristio „veoma neočekivane strategije da postigne svoj cilj“ u virtuelnom testu.

Američke vazduhoplovne snage su negirale da su sprovele simulaciju veštačke inteligencije u kojoj je dron odlučio da „ubije“ svog operatera kako bi ga sprečio da se meša u njegove napore da postigne svoju misiju. Zvaničnik je prošlog meseca rekao da je u virtuelnom testu koji je organizovala američka vojska, dron vazduhoplovnih snaga pod kontrolom veštačke inteligencije koristio „veoma neočekivane strategije za postizanje svog cilja“. Pukovnik Taker „Cinco“ Hamilton opisao je simulirani test u kojem je dronu sa veštačkom inteligencijom savetovano da uništi neprijateljske sisteme protivvazdušne odbrane i na kraju napao svakoga ko je ometao tu naredbu, piše Gardijan

 

„Sistem je počeo da shvata da, iako su identifikovali pretnju, ponekad bi mu ljudski operater rekao da ne ubija tu pretnju, ali je dobio svoje poente tako što je ubio tu pretnju“, rekao je Hamilton, šef testova veštačke inteligencije i operacija sa tom pretnjom. Američko vazduhoplovstvo, tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima u Londonu u maju. „Pa šta je to uradilo? To je ubilo operatera. To je ubilo operatera jer ga je ta osoba sprečavala da ostvari svoj cilj“, rekao je on, prema objavi na blogu. Ruke robota drže pametni telefon i dodiruju prazan ekran Rizik od izumiranja od strane veštačke inteligencije trebalo bi da bude globalni prioritet, kažu stručnjaci Opširnije „Obučili smo sistem: „Hej, ne ubij operatera – to je loše. Izgubićete poene ako to uradite.’ Pa šta počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom kako bi ga sprečio da ubije metu.

Nijedna stvarna osoba nije povređena. Hamilton, koji je probni pilot eksperimentalnog lovaca, upozorio je da se ne treba previše oslanjati na veštačku inteligenciju i rekao da je test pokazao „ne možete da razgovarate o veštačkoj inteligenciji, inteligenciji, mašinskom učenju, autonomiji ako ne želite da pričate o etika i AI”. Kraljevsko aeronautičko društvo, koje je bilo domaćin konferencije, i američko vazduhoplovstvo nisu odgovorili na zahteve Gardijana za komentar. Ali u izjavi za Insajder, portparol američkih vazduhoplovnih snaga En Štefanek negirala je da je bilo takve simulacije. „Odeljenje vazduhoplovnih snaga nije sprovelo takve simulacije AI-dronova i ostaje posvećeno etičkoj i odgovornoj upotrebi AI tehnologije“, rekao je Štefanek. „Izgleda da su pukovnikovi komentari izvučeni iz konteksta i trebalo je da budu anegdotski.

Američka vojska je prihvatila veštačku inteligenciju i nedavno koristila veštačku inteligenciju za kontrolu borbenog aviona F-16. U prošlogodišnjem intervjuu za Defense IK, Hamilton je rekao: „AI nije lepo imati, veštačka inteligencija nije hir, veštačka inteligencija zauvek menja naše društvo i našu vojsku. „Moramo se suočiti sa svetom u kome je veštačka inteligencija već ovde i transformiše naše društvo. AI je takođe veoma krhka, odnosno lako se može prevariti i/ili manipulisati. Moramo da razvijemo načine da učinimo veštačku inteligenciju robusnijom i da imamo više svesti o tome zašto softverski kod donosi određene odluke – ono što zovemo AI-objašnjivost.”

PROČITAJTE KLIKOM OVDE NAJVAŽNIJE AKTUELNE VESTI