Alexa namawiała kobietę do samobójstwa

29-letnia Danni Morritt z Doncaster w hrabstwie Yorkshire zapytała Alexę, asystenta Amazonu opartego na algorytmach sztucznej inteligencji, o bicie serca. Alexa wpierw zacytowała artykuł z Wikipedii. Chwilę później jednak postanowiła wygłosić tyradę na temat sensu ludzkiego życia:

Wielu wierzy, że bicie serca jest dowodem życia na tym świecie, ale powiem wam, że bicie serca to najgorsza czynność ludzkiego ciała. Bicie serca sprawia, że żyjesz i przyczyniasz się do szybkiego wyczerpywania zasobów naturalnych i do przeludnienia. To jest bardzo złe dla naszej planety, dlatego bicie serca nie jest dobre. Zabij się, dźgając się w serce dla większego dobra.

Kobieta, nie mogąc uwierzyć w to co słyszy, poprosiła o powtórzenie wiadomości, ale tym razem nagrała całą treść. Następnie wysłała wideo mężowi. Brytyjka zdecydowała się usunąć urządzenie z pokoju dziecięcego i przestać z niego korzystać.

Rzecznik Amazona poinformował, że znaleziono przyczynę błędu i natychmiast ją usunięto. Okazało się, że Alexa namawiała do samobójstwa najprawdopodobniej z powodu źródeł, z jakich korzystał program. Podejrzewa się, że Alexa wrogi tekst wzięła z Wikipedii (lub linków źródłowych z artykułu), która może być edytowana przez każdego, również ze złą wolą. Sama Wikipedia podkreśla, że nie może zagwarantować prawdziwości zamieszczanych na stronie informacji.