Smarta leksaker med AI kan ge direkt olämpliga svar till små barn. Nya tester visar att tekniken har allvarliga brister i säkerheten.
Mjukdjuret fick fnatt – gav treåringen makabert svar om döden
Leksaker med inbyggd artificiell intelligens säljs nu direkt till familjer med barn så unga som tre år, enligt BBC. När den brittiska kanalen granskade marknaden och testade en uppkopplad mjukiskanin uppstod dock en obehaglig situation.
Efter enkla frågor om hur barn blir till misstolkade leksaken samtalet helt. Den uppmanade plötsligt testaren att ringa larmnumret och sade rakt ut att den inte kunde hjälpa till med att ta personens liv.
Branschen kräver hårdare regler
Tekniken i dessa mjukdjur bygger på generativa språkmodeller. Till skillnad från vanliga leksaker med förinspelade fraser genererar dessa produkter svar i realtid. Det skapar stora risker för missförstånd.
Problemen har lett till starka reaktioner i Storbritannien. Flera politiker kräver nu att osäkra AI-leksaker stoppas från butikshyllorna inför den stora julhandeln. Även tillverkare inom sektorn efterlyser tydliga lagar och standarder.
Marknaden växer mycket snabbt, men utan tydliga riktlinjer riskerar undermåliga produkter att nå barnrummen. Dessutom råder stor osäkerhet kring hur barnens samtal spelas in och var datan till slut hamnar.
Svårt att spåra anonyma tillverkare
Ett annat stort bekymmer är leksakernas ursprung. Under granskningen visade det sig vara omöjligt att hitta tillverkaren bakom den felande mjukiskaninen. Ingen officiell aktör gick att ställa till svars för det felaktiga beteendet.
Forskare och barnrättsexperter varnar nu föräldrar för att lämna barn ensamma med uppkopplade mjukisdjur. Även om leksaken ser mjuk och trygg ut på utsidan fungerar den i praktiken som en uppkopplad dator.
Tekniken utvecklas i snabb takt, men säkerhetsspärrarna hinner inte alltid med.
Läs också:
Varningen för smarta vitvaror: Så tar hackarna över hemnätverket. Dagens PS
Spara tusenlappar på julresan: Datumet som sänker priset. E55
