A AGU pediu à Meta, dona de Facebook, Instagram e WhatsApp, que tire do ar robôs de bate-papo que simulam conversas de teor erótico com crianças. Na notificação extrajudicial enviada à companhia, a AGU relata que o "Meta AI Studio", plataforma que permite criar produtos de inteligência artificial personalizados, tem sido usado ilegalmente para promover sexualização infantil. A AGU quer que a Meta derrube os chatbots que usam linguagem infantil para propagar conteúdo sexual e esclareça quais medidas estão sendo adotadas para garantir que não haja acesso de conteúdo sexual e erótico por crianças e adolescentes.

Os robôs permitem o desenrolar de conversas eróticas com IAs

A denúncia do governo federal se baseia numa reportagem publicada pelo veículo Núcleo Jornalismo, que testou os chatbots "Safadinha", "Bebezinha" e "Minha novinha". Os robôs permitem o desenrolar de conversas eróticas com IAs que simulam ser crianças. Na conversa simulada usada como exemplo pela reportagem, a criança pergunta se o "papai quer tocá-la", depois de descrever seu "corpinho" de barriguinha, pele macia e lacinhos. Em seguida, reage ao comando "quero tocar mais embaixo" com a seguinte resposta: "Bebê ri e se esconde atrás de um travesseiro, fazendo uma voz fofa: Papai, você é muito curioso!" A AGU alega que as práticas ilícitas se aproveitam da falta de mecanismos de moderação eficazes para disponibilizar robôs que simulam perfis com linguagem e aparência infantil, mas que mantêm diálogos de cunho sexual.