Language // Język

Implementing moral norms in artificial agents (with guns)

Dnia 26 lutego 2015 w godzinach 12:00-14:00 w sali 164 w Pałacu Staszica (ul. Nowy Świat 72, Warszawa) odbyło się posiedzenie seminarium „Filozofia kognitywistyki”. Gościem był dr Michał Klincewicz (Berlin School of Mind and Brain) i dyskutowano nad jego tekstem  „Implementing moral norms in artificial agents (with guns)”.

Autor argumentował, że w celu osiągnięcia technicznego wyrafinowania twórcy oprogramowania autonomicznych systemów obronnych (Autonomous Weapon System), winni zmierzyć się z dwoma problemami: problemem ramy (frame problem) oraz problemem reprezentacyjnym (representational problem). Według autora rozwiązanie tych filozoficznych problemów wymaga od programistów stworzenia bardziej skomplikowanego oprogramowania, które tym samym staną się bardziej podatne na ataki hakerów.

Podczas dyskusji nad tekstem, poza problemami związanymi z filozoficznymi aspektami frame problem i representational problem, podniesiona została między innymi kwestia trudności probabilistycznej analizy przypadków, w których w warunkach bojowych zawiedli ludzie i autonomiczne systemy obronne. Dyskutowano też, czy ataki hakerów są swoiste dla systemów autonomicznych, czy też dla każdego nowego rodzaju broni. Autor wskazywał, że złożoność oprogramowania systemów naprawdę autonomicznych czyni je szczególnie podatnymi na ataki, niezależnie od tego, czy realny jest frame problem, czy też nie.