Wyobraźcie sobie nastepującą sytuację – wagon wymknął się spod kontroli i pędzi po torach w dół zbocza. Na dole pewien szaleniec przywiązał do torów pięć osób. Możesz jednak przestawić zwrotnicę i skierować wagon na drugi tor, gdzie przywiązana jest jedna osoba. Co powinieneś zrobić?
Opisana sytuacja jest punktem wyjścia w rozważaniach nad dylematem wagonika (trolley problem). Zadaje pytanie o moralność, etykę, wartość ludzkiego życia i stanowił osobliwą rozrywkę intelektualną dla filozofów.
Problem wydaje się abstrakcyjny. W końcu szansa spotkania szaleńca przywiązującego ludzi do torów jest prawie zerowa. Wkrótce jednak sytuacja się zmieni i my wszyscy będziemy przywiązani do torów, a ten ktoś (lub coś) przy zwrotnicy będzie myślał zupełnie inaczej niż my.
Gdy AI zacznie decydować o życiu lub śmierci
W najbliższym czasie pojawi się coraz więcej autonomicznych samochodów na drogach. Początkowo jako eksperymenty i testy technologii, później jednak zaczną zastępować kierowców. Prawdopodobnie najpierw zastąpią kierowców TIRów, potem taksówek, a następnie nas samych w samochodach osobowych. Będziemy powierzać nasze towary i nasze życie maszynom w nadziei, że nie będą popełniać ludzkich błędów.
Nie zawsze jednak twórcy algorytmów sztucznej inteligencji sterujących samochodami mogą przewidzieć wszystkie sytuacje, jakie mogą się pojawić w dzikim świecie. Mogą jedynie nauczyć programy na podstawie jak największej ilości danych co robić w danej sytuacji i mieć nadzieję, że sobie poradzą.
Wyobraźcie sobie teraz następującą sytuację. Siedzicie w autonomicznych samochodzie i nagle samochów wpada w poślizg. Komputer pokładowy staje przed wyborem – czy wjechać w przystanek, na którym kilka osób czeka na autobus, czy też uderzyć w drzewo. W pierwszym przypadku wszyscy w samochodzie przeżyją, za cenę życia osób na przystanku. W drugim przypadku wszyscy w samochodzie giną.
Jest to ta sama sytuacja co w dylemacie wagonika. Wagonem jest samochód, a rolę osoby przy zwrotnicy pełni komputer pokładowy samochodu.
Każde możliwe rozwiązanie jest złe. Gdy taka sytuacja będzie mieć miejsce, natychmiast pojawią się ludzie krytykujący bezduszność maszyn, nawet jeżeli wybiorą rozwiązanie o najmniejszym negatywnym rezultacie.
Jaki więc byłby wybór sztucznej inteligencji?
Czasami najlepszym ruchem jest nie grać w ogóle
W swojej pracy pt. The First Level of Super Mario Bros. is Easy with Lexicographic Orderings and Time Travel . . . after that it gets a little tricky. Dr. Tom Murphy próbował stworzyć inteligentny program zdolny do samodzielnego grania w Mario, bez podawania mu jak się gra w Mario.
Efekt końcowy był zaskakujący. Program był w stanie wykorzystać wszelkie możliwe błędy w grze, aby przejść ją w najbardziej optymalny sposób.
Następnie kazał temu samemu programowi zagrać w inne gry, jak Super Mario Bros. czy Pac-Man. Największe zaskoczenie spotkało go jednak, gdy jego program grał w Tetrisa. Jest to matematycznie udowodnione, że nie da się grać w Tetrisa w nieskończoność. W tej grze zawsze się przegrywa. Program dr. Murphy’ego mógł robić dosłownie wszystko w grze, ale nie mógł zmienić zasad gry, więc jedynie co robił to odkładał w czasie nieunikniony koniec.
Gdy więc nadchodził moment klęski program zrobił coś zaskakującego – zatrzymał grę. Włączył pauzę i w zasadzie to był najmądrzejszy ruch jaki mógł wykonać. Technicznie rzecz biorąc, wykorzystał wszelkie możliwe opcje i nie dopuścił do swojej klęski.
Jeżeli wrócimy do problemu „przystanek czy drzewo”, to zobaczymy pewną analogię do programu dr Murphy’ego. Wystarczająco inteligentna sztuczna inteligencja powinna być w stanie dość do wniosku (lub przynajmniej powinna zostać zaprogramowana), że mogą się pojawić sytuacje, w których trzeba wybrać mniejsze zło. W takiej sytuacji najlepszym rozwiązaniem jest niedopuszczenie do takiej sytuacji.
Jeżeli twórcy algorytmów sterujących autonomicznymi samochodami pójdą w tym kierunku, to autonomiczne samochody będą najlepszą rzeczą, jaka została wprowadzona do samochodów poprawiającą bezpieczeństwo od czasu pasów bezpieczeństwa.
Jeżeli samochody będą ciagle się ze sobą komunikować i wymieniać ze sobą informacje o stanie dróg, to będą one w stanie znacznie wcześniej przeanalizować potencjalne zagrożenia i nie dopuścić do nich. W ten sposób unikną dylematu wagonika i zadbają o bezpieczną podróż wszystkich w samochodzie, jak i poza nim.
