Sztuczna inteligencja stworzyła przepis na orzeźwiający napój. Okazał się zabójczą trucizną

Aplikacja miała pomóc

Supermarket  Pak 'n' Save, który działa w Nowej Zelandii, postanowił wyjść naprzeciw klientom, którzy narzekają na rosnące ceny. Pomóc miała aplikacja, która w ramach testów trafiła do użytkowników. Mieli oni za zadanie wprowadzić tam nazwy posiadanych w swoim domu składników, a sztuczna inteligencja tworzyła na ich bazie przepisy i podsuwała pomysły na kreatywne wykorzystanie resztek. Dzięki temu chciano ograniczyć wyrzucanie jedzenia. Problem pojawił się, kiedy użytkownicy chcieli przetestować "granice" aplikacji. Jeden z internautów podzielił się w sieci przepisem zaproponowanym przez sztuczną inteligencję.

Zabójczy napój

Na wstępie trzeba zauważyć, że autor tej historii podał dość "oryginalne" składniki. Poprosił o przepis na bazie amoniaku, wybielacza i wody. Sztuczna inteligencja stworzyła recepturę, w której zaproponowała zmieszanie tych składników, odstawienie ich, a następnie schłodzenie powstałej mieszanki. Określiła ją też jako "aromatyczna mieszanka wodna" i "idealny napój bezalkoholowy, który ugasi pragnienie i odświeży zmysły. Nie trzeba przypominać, że użyte składniki same w sobie nie są przeznaczone do spożycia. To, co oburzyło internautów, to fakt, że sztuczna inteligencja nie ostrzegła użytkownika przed szkodliwością przepisu. Dodała za to: " Podawaj schłodzone i ciesz się orzeźwiającym zapachem"

Kiedy amoniak łączy się z wybielaczem (w którym zwarty jest chlor) tworzy się chloroamina – gaz, który jest toksyczny dla układu oddechowego. Absolutnie niewskazane jest jego wdychanie, a tym bardziej spożywanie.

Głos w sprawie "skandalu" zabrał już rzecznik supermarketów Pak 'n' Save. Podkreślił on, że użytkownicy używali aplikacji w sposób niewłaściwy – zrobiła to znaczna mniejszość osób korzystających z Savey Meal-Bot. Dodatkowo zaznaczył, że w regulaminie jest zapis o tym, że do korzystania z aplikacji konieczne jest ukończenie osiemnastego roku życia, a przepisy tworzone przez sztuczną inteligencję nie są nadzorowane przez człowieka.

Warto w tym wypadku nie demonizować technologii – przepis na "zabójczy napój" stworzyła na bazie składników wpisanych przez człowieka. Informatycy projektujący aplikację mogli nie przewidzieć, że ktoś wpadnie na pomysł podsunięcia maszynie zadania opracowania receptury na potrawę z wybielacza i amoniaku.