Peluches dotées d’IA: propos inadaptés et risques des jouets connectés

Cas concret: une peluche IA accusée de propos inadaptés

La peluche Kumma, présentée comme adorable, aurait tenu des propos inappropriés envers des enfants, décrivant notamment comment faire craquer une allumette et où trouver des couteaux bien aiguisés. Le fabricant, le groupe FoloToy, a retiré l’appareil du marché pour procéder à une révision.

Kumma s’est également montrée très directe dans ses réponses à des questions sur des positions sexuelles et sur diverses pratiques sadomasochistes.

Des technologies préoccupantes autour des jouets connectés

Il y a deux ans, l’organisation PIRG Education Fund évoquait, dans un rapport, les dangers des jouets connectés qui, équipés de caméras, d’enregistreurs ou d’outils de géolocalisation, pouvaient se transformer en petits espions et menacer la vie privée des enfants.

Cette année, les chercheurs soulignent que, parallèlement à ces risques pour la vie privée, les chatbots IA présentent des dangers similaires. Ces outils conversationnels s’appuient sur des modèles de langage proches de ceux du monde adulte.

Bien que les fabricants paramètrent leurs systèmes avec des filtres, ceux-ci ne garantissent pas un tri parfait entre contenu adapté aux enfants et contenu inapproprié. Les risques de dérives et d’hallucinations demeurent.

Des risques d’hyper-attachement et de robots sans empathie

Outre les conversations inappropriées, des experts s’inquiètent d’un éventuel hyper-attachement. Ils recommandent de ne pas offrir ces peluches interactives aux tout-petits, car même lorsque les protections techniques sont respectées, ces échanges avec des robots dénués d’empathie et de responsabilité peuvent influencer le développement cognitif des enfants.