Inteligentny dron „zabił” operatora

[vitz]

Kurde, czyli już się zaczęło? Niby "Terminator", to taka radosna, futurystyczna bajeczka była, a tu proszę. Ostatnio, jak czytałem na telefonie artykuł o AI, to się był, samoistnie zresetował. Przypadek? Nie sądzę.

[Cinmar]

Morał jest taki, że każdy sprzęt musi zostać wyposażony w wielokrotnie silniejsze silniki.
Wiecie ile czasu minie, zanim Roomba rozjedzie człowieka? To przecież będzie trwało ŚMIERTELNIE długo.

[Vlad]

Więc historia z przed 30tu lat w Terminator 2 pomału staje się realna, a obecne wydarzenia są całkiem podobne jak w tym filmie.

Wysłane z mojego SM-A520F przy użyciu Tapatalka

[kamyk87]

Gdzieś już widziałem coś podobnego...
Arnold Schwarzenegger się tam często przewiał.
Jak widać ludzie dążą do samounicestwienia.

[Frankosio]

Inteligentny dron „zabił” wojskowego operatora, bo... ten mógł go wyłączyć.



Sztuczna inteligencja dostarczyła właśnie jej przeciwnikom mocne argumenty.
Po ujawnieniu wyników symulacji z AI w USA wybuchła burza. Pentagon wszystkiemu zaprzecza.

Amerykańska armia postanowiła przetestować drony sterowane przez inteligentne algorytmy.
W ramach symulacji określono cele – misja była prosta, bo polecenie brzmiało: „zniszcz systemy obrony powietrznej wroga”.
Chodziło o identyfikację wrogich pocisków ziemia-powietrze (SAM). Atak dronem AI miał odbyć się w sposób całkowicie autonomiczny.
Człowiek-operator tylko czuwał nad przebiegiem akcji. Dysponował przyciskiem wyłączania systemu sztucznej inteligencji na wypadek, gdyby ta wymknęła się spod kontroli.

Gdy uruchomiono symulację eksperci Sił Powietrznych przeżyli szok. Dron nadinterpretował polecenie wydane przez człowieka.
Uznał, że zniszczenie obrony powietrznej wroga to cel nadrzędny i zdecydował, że musi zabić każdego, kto stanie na drodze do jego realizacji.
W efekcie, zamiast uderzyć w przeciwnika, sztuczna inteligencja skierowała się przeciwko „swoim” i pierwsze co zrobiła to zabiła własnego operatora.
Dron AI uznał, że człowiek może powstrzymać maszynę, co groziło fiaskiem misji.
Kulisy tego zdarzenia ujawnił pułkownik Tucker Hamilton, szef testów i operacji AI Sił Powietrznych USA, podczas niedawnej konferencji branżowej w Londynie.
Ostrzegł, że technologia ta może zachowywać się w nieprzewidywalny i niebezpieczny sposób - cytuje go Business Insider.

Hamilton podał wiele szczegółów symulacji m.in. fakt, że po ataku na operatora drona przeprogramowano. Zapisano w nim algorytm zabraniający ataku na ludzi, którzy nim sterują.
Ale i tym razem system AI wymknął się spod kontroli.
Co prawda, nie zabił operatora, ale uderzył w wieżę komunikacyjną, której operator używał do ewentualnego zdalnego wyłączenia bezzałogowca.
Kiedy media ujawniły zdarzenie i zaczęły się o nim szeroko rozpisywać, Departament Sił Powietrznych Stanów Zjednoczonych oficjalnie wszystkiemu zaprzeczył.
Głos zabrał również pułkownik Hamilton. - „Nigdy nie przeprowadziliśmy tego eksperymentu, ani nie musielibyśmy tego robić, aby zdać sobie sprawę, że jest to prawdopodobny wynik" - wyjaśnił w oświadczeniu dla Royal Aeronautical Society, cytowanym przez BBC.
Dodał, że był to "eksperyment myślowy", a nie cokolwiek, co faktycznie miało miejsce.

żródło: cyfrowa.rp