Amerykańska Rada Innowacji Departamentu Obrony (DIB) opublikowała propozycję norm etycznych dotyczących wojskowego wykorzystania sztucznej inteligencji. Kwestia staje się istotna w związku z rosnącym wykorzystaniem SI przez siły zbrojne.
Rozważania nad wypracowaniem norm etycznych obejmujących wykorzystanie SI i systemów autonomicznych na polu walki zainicjowała w roku 2014 US Navy. Dwa lata później prezydent Obama powołał DIB, mającą być platformą współpracy Pentagonu z przemysłem. W jej skład oprócz przedstawicieli Departamentu Obrony wchodzą przedstawiciele gigantów zaangażowanych w prace nad SI, takich jak Google, Microsoft i Facebook. Przewodniczącym DIB został Eric Schmidt, były prezes Google’a.
Najważniejszy postulat rady zakłada utrzymanie odpowiedzialności człowieka za rozwój, wykorzystanie i skutki działań sztucznej inteligencji. Oprócz tego ludzie pracujący nad systemami wykorzystującymi SI powinni rozumieć i dokumentować, co robią, a same systemy powinny być sprawdzane pod kątem niezawodności.
DIB zaleca także podjęcie kroków mających na celu uniknięcie wprowadzania do systemów uprzedzeń mogących prowadzić do niezamierzonego szkodzenia ludziom. Sztuczna inteligencja wykorzystywana przez Pentagon powinna być zdolna do samodzielnego rozpoznawania takich sytuacji i powinna automatycznie przerwać działanie.
Wprowadzanie SI na pole walki budzi liczne kontrowersje. Pracownicy Google’a i Microsoftu protestowali już przeciw wykorzystywaniu rezultatów ich pracy przez wojsko. Google opracował własny zestaw norm etycznych, jednak mimo niechętnego stanowiska części pracowników nie zrezygnował ze współpracy z Pentagonem. Z kolei Microsoft zdobył wart 10 miliardów dolarów kontrakt na realizację programu JEDI, budowę chmury danych mającej wspierać szeroką modernizację amerykańskich sił zbrojnych i wdrażanie systemów wykorzystujących sztuczną inteligencję.
Zobacz też: Chiny boją się scenariusza jak z „Terminatora”
(wired.com)
