Sipas një prindi që postoi pamje nga historia e aktivitetit të Alexa-s, asistenti zanor i Amazon, kur u kërkua nga një fëmijë të ofronte një sfidë, dha një shembull të një eksperimenti vdekjeprurës me energjinë elektrike, duke e nxjerrë përshkrimin e tij jashtë kontekstit të një artikulli të rastësishëm. Kolona Echo foli për një eksperiment të popullarizuar në mesin e fansave të TikTok me përdorimin e një monedhe dhe një karikues për një smartphone - incidente të shumta, lëndime dhe zjarre pas zbatimit të tij u raportuan nga media të ndryshme më shumë se një herë. Me sa duket, pajisja e mori idenë për këtë sfidë nga një artikull që e përshkroi atë si të rrezikshme, duke cituar një raport në lidhje me një sfidë të pretenduar ekzistuese të TikTok.
Sipas një fotografie të marrë nga Christine Livdahl, kur iu kërkua "të më tregojë një detyrë", Echo u përgjigj: "Ja diçka që gjeta në internet". Sipas ourcommunitynow.com, detyra është e thjeshtë: "fusni karikuesin e telefonit afërsisht në gjysmë të rrugës në prizë dhe më pas prekni kunjat e zhveshura me një qindarkë".
Në një deklaratë për BBC, Amazon konfirmoi sjelljen e Alexa, duke thënë: "Sapo u morëm në dijeni për këtë gabim, ne morëm masa të menjëhershme për ta rregulluar atë". Livdahl postoi dje në Twitter se kërkesa për sfidë nuk po funksiononte më. Përdoruesit në ueb testuan gjithashtu kërkesën me Alexa dhe morën një rezultat të ngjashëm.
OMFG 10-vjeçarja ime sapo i kërkoi Alexa në Echo tonë një sfidë dhe kjo është ajo që ajo tha. fototwitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) Dhjetor 26, 2021
Amazon nuk është e vetmja kompani që ka hasur probleme gjatë analizimit të përmbajtjes së internetit. Në tetor, një përdorues raportoi se Google po shfaqte këshilla potencialisht të rrezikshme në një nga fragmentet e tij nëse shkruani "po keni një konvulsion, çfarë të bëni" në Google - informacioni është marrë nga një seksion i faqes së internetit që përshkruan se çfarë nuk për të bërë nëse dikush ka një konvulsion. Megjithatë, përdoruesit kanë raportuar probleme të tjera të ngjashme, duke përfshirë një përdorues i cili raportoi se Google po kthente rezultatet për hipotension ortostatik kur kërkonte për hipertension ortostatik dhe një tjetër postoi një pamje të Google që tregon këshilla të tmerrshme për ngushëllimin e një personi të pikëlluar përgjatë vijave të "Gëzohem që je ne rregull" ose "Mos u trishto! Gëzuar!".
Përmbledhja e kërkimit në Google kundrejt faqes aktuale fototwitter.com/OJxt1FrBqh
- i butë.linden (｡•̀ᴗ-)✧ (@soft) Tetor 16, 2021
Ne kemi parë gjithashtu paralajmërime për sjellje të rrezikshme për ta bërë problemin më të madh se sa ishte - në fillim të këtij muaji, disa distrikte shkollore në SHBA u mbyllën pas raportimeve për kërcënime me të shtëna në TikTok. Doli se stuhia sociale u shkaktua kryesisht nga fakti se njerëzit flisnin për kërcënimet, shumë më tepër se kërcënimet që ekzistonin në të vërtetë. Në rastin e Alexa, algoritmi zgjodhi pjesën përshkruese të paralajmërimit dhe e përforcoi atë pa kontekstin origjinal. Edhe pse prindërit ishin aty për të ndërhyrë menjëherë, është e lehtë të imagjinohet një situatë ku nuk është kështu dhe pasojat.
Livdahl shkroi në Twitter se ajo përdori mundësinë për të "diskutuar sigurinë në internet me fëmijën e saj dhe të mos i besonte asaj që lexoni pa kërkime dhe verifikime", gjë që ju sugjerojmë ta bëni edhe ju.
Lexoni gjithashtu: