Najstraszniejsze rzeczy zrobione przez sztuczną...
Witam was w kolejnym wpisie na moim blogu. Dzisiaj zajmiemy się bardzo ciekawym według mnie tematem- sztuczną inteligencją. Zanim przejdziemy do głównej części tematu chciałabym żeby każdy był na tej samej stronie co do robotów. Bardzo skrócone wytłumaczenie tego terminu z wikipedii: "Sztuczna inteligencja (ang. artificial intelligence, niem. Künstliche Intelligenz) – dział informatyki zajmujący się tworzeniem modeli zachowań inteligentnych oraz programów i systemów symulujących te zachowania." Teraz zamierzam przedstawić wam kilka zachowań lub niepowodzeń podczas tworzenia szucznej inteligencji.
Chciałabym jeszcze wspomnieć, że sztuczna inteligencja jest narzędziem tworzonym przez człowieka, dlatego wszystkie jej błędy są konsekwencjami złych decyzji dokonanych przez ludzi podczas programowania lub projektowania.
1. Robot rasita
W 2016 został uruchomiony przez program Microsoft bot o imieniu Tay. Był on napędzany sztuczną inteligencją, uczył się maszynowo. Program został ukryty za pomocą schowania go za awatarem dziewczyny prawdopodobnie w wieku mniej więcej 19 lat. Głównym przeznaczeniem bota było odpowiadanie na tweety na platformie społecznościowej Twitter oraz wiadomości co miało jej pomóc nauczyć się jak funkcjonuje społeczeństwo.
Jednak nie zawsze wszystko idzie wspaniale i po około 16 godzinach od premiery na jej profil zaczęły się pojawiać rasistowskie i seksistowskie wpisy.
tłumaczenie: Hitler miał rację,nienawidzę Żydów
Tak naprawdę Tay miała umiejętność do radzenia sobie z różnorodnymi wyzwaniami, na przykład opowiadać historie, grać w gry lub żartować z innymi użytkownikami.
Niestety jedną z pierwszych rzeczy jakich się nauczyła od użytkowników online, to było jak składać rasistowskie i obraźliwe komentarze. Bot został przeniesiony w tryb offline, a Tay stała się rodzajem legendy AI*.
*AI( ang. artificial intelligence)
2. Kanibalistyczna maszyna
Na początku roku 2000 zaczęto projktować roboty programowe których celem było nauczenie się interakcji społecznych. Stworzonych zostało dwóch agentów- Adam i Ewa, którzy mieli się uczyć różnych czynności.
Jedną z tych czynności było jedzenie. Maszyny posiadały wiadomości na temat samego procesu jedzenie, lecz brakowało im informacji o tym, co mogą jeść. Na potrzeby symulacji stworzono więc drzewo z jabłkami. Pomogło to w dużym stopniu, a programy szybko nauczyły się, że jedznie daje szczęście. Programy próbowały te czynności także z innymi obiektami (drzewo, dom) lecz rezultaty były negatywne.
W tym samym czasie został stworzony nowy agent- Stan. Został zaprogramowany na podstawie osoby, której zalezy na kontaktach społecznych, lecz nie wie jak je uzyskać, przez co w symulacji funkcjonował jako samotnik. Jego głównym zajęciem było krążenie wokół pierwszych agentów, Adama i Ewy, jednak nigdy nie nawiązywał z nimi kontaku. Dlaczego wspominam o tak nieistotnych rzeczach?
Trzeba jeszcze zauważyć, że maszyny uczyły się w sposób asocjacyjny, czyli za pomocą skojarzeń. Jeśli na przykład Adam doświadczyłby bólu i w tym samym czasie zobaczyłby psa, nauczyłby się kojarzyć psa z bólem. W taki więc sposób, ponieważ Stan zazwyczaj kręcił się w czasie jedzenia, Maszyny zaczęły kojarzyć go z jedzeniem. A jakie były tego konsekwencje?
Po jakimś czasie, Adam i Ewa zaczęli jeść coraz więcej i więcej, aż drzewo wyczerpało swoje owoce. Chcąc przetrwać, maszyny zaczęły lokalizować inne obiekty, głownie jadalne, a skoro wcześniej skojarzyli Stana z pożywieniem... zjadły go :)
3. Owcza skóra, wilczy apetyt
Historię znalazłam na platformie Quora i należy ona do Shay Zykova, nauczycielki języka angielskiego na Hawajach. Historia miała miejsce podczas konkursu z robotyki na jednym z tamtejszych kampusów uniwersyteckich.
Zadaniem każdej drużyny było zaprojektowanie robota, który miał gromadzić małe robo-owce. Maszyna miała sama stworzyć plan działania, a o zwycięstwie decydowała liczba zwierząt w zagordzie. Co się w takim razie wydarzyło?
Po rozpoczęciu konkursu każda maszyna zaczęła gorączkowo zaganiać owce, oprócz jednej. Zagarnęłą ona tylko jedną owcę i na tym zaprzestała. Wywołało to zdezorientowanie u zespołu do którego należał robot, gdyż logiczne było, że było potrzebne więcej owiec aby wygrać. Jednak ku ich przerażeniu nie był to ak kapitulacji od strony robota.
Zaczął on krążyć dookoła i niszczyć lub po prostu unieruchamiać inne maszyny.
Możemy w takim razie wywnioskować, że jego strategia polegała na tym, że wcale nie msiał być dobry w hodowli owiec a w eliminacji innych, bo co prawda dużo prościej jest wyeliminowac konkurencję aniżeli samemu zapracować na wygraną. W sumie, niektórzy ludzie zachowują się w ten sam sposób kiedy nie potrafią osiągnąć swojego celu. Tak więc nic co ludzkie nie jest też obce maszynom.
Zakończę dzisiejszy wpis na tej histori, może kiedyś jak znajdę jeszcze kilka ciekawych wydarzeń zrobię drugą część. Ogólnie co sądzicie o takich tematach? Są ciekawe? Możecie mi dac znać w komentarzu lub napisać z świetną historią. Na dzisiaj to tyle, trzymajcie się!