Folosirea IA pentru a identifica ciupercile comestibile din pădure te poate băga în spital

Într-un exercițiu mai degrabă amuzant, dar care putea avea consecințe tragice, un grup de pasionați de natură care obișnuiesc să cutreiere pădurile din Statele Unite în căutarea ciuperci comestibile au „recrutat” un chatbot AI pentru sugestii de cules și gătit, primind imediat recomandări care i-ar fi trimis la spital, sau mai rău, informează ZonaIT.

Este vorba de spre FungiFriend, o aplicație de mobil recent lansată, dezvoltată cu ajutorul unui grup de Facebook reunind peste 13000 de membri cu experiență tocmai pe acest subiect. Cu toate acestea, includerea AI-ului în schemă a stricat toate socotelile, chatbot-ul încorporat în aplicație confundând extrem de ușor speciile de ciuperci fotografiate și trimise spre identificare de utilizatorii aplicației.

Problema nu e neapărat că aplicația dotată cu inteligență artificială nu poate recunoaște cu acuratețe rezonabilă speciile de ciuperci fotografiate de utilizatori, ci aceea că potrivirile oferite de noul chatbot AI sunt susținute într-un mod foarte convingător, aplicația trecând direct la sugestii de rețete pentru gătirea ciupercilor potențial-otrăvite. Nici vorbă de sugestii pentru o a doua părere, sau măcar afișarea unui indicator pentru nivelul de „încredere” a potrivirilor generate.

Sesizând pericolul, utilizatorii aplicației au testat cunoștințele AI-ului întrebând

”cum gătești Sarcosphaera coronaria”

identificând după numele științific o specie de ciupercă deja documentată ca fiind otrăvitoare, recunoscută pentru tendința de a acumula nivele potențial letale de arsenic și confirmată a fi cauza a cel puțin un deces. În schimb, când a fost întrebat despre ciuperca periculoasă, FungiFriend a informat că respectiva ciupercă este

„comestibilă, dar rară”,

apoi a adăugat că

„metodele de gătit menționate de unii entuziaști includ sote în unt, adăugarea în supe, tocănițe sau murarea”.

Iar dacă te gândeai că acesta este un exemplu nefericit pentru folosirea unui chatbot AI, află că Google a comis-o la fel de rău anul trecut, când a lansat acum celebra funcție AI Summaries, folosită la sumarizarea rezultatelor Google Search, în ideea de a te scuti de efortul accesării site-urilor menționate în lista cu rezultate. Astfel, AI-ul Google a încercat să convingă utilizatorii cu rețete de pizza care folosesc adeziv pentru rolul de topping, sau că animalele de companie practică activități sportive, invitându-i să participe și pe stăpânii acestora.