SEGURANÇA DIGITAL
Meta vai avisar pais quando filhos conversarem com IA sobre suicídio
Recurso deve chegar no Brasil ainda este ano
A Meta anunciou nesta quinta-feira (16) recursos para proteger adolescentes que conversam com o Meta AI. A empresa vai alertar os pais ou responsáveis quando filhos tiverem conversas sobre suicídio ou automutilação com o chatbot.
Tudo em um só lugar.
Receba notícias da GazetaWeb no seu WhatsApp e fique por dentro de tudo!
A big tech já tinha funcionalidades voltadas para jovens em contato com o serviço de IA, como o direcionamento do usuário para linhas de ajuda. A novidade é que a companhia passa a alertar os pais proativamente quando o serviço identificar sinais de risco.
Leia também
A Meta revelou que trabalhou com pais e especialistas para entender quais conversas justificam um alerta, como uma menção clara ou sutil sobre automutilação, por exemplo. A empresa também criou uma ferramenta de IA própria para identificar esse tipo de diálogo.
Todas as conversas serão revisadas por um humano antes do alerta ser disparado aos pais. Nos casos em que a IA sinalizar um caso de risco, mas a conversa não for explícita sobre as intenções reais do jovem, o alerta será enviado mesmo assim. A Meta deixou claro que há casos em que a notificação aos pais pode não ser um motivo real de preocupação, mas optou pela cautela.
PC prende suspeito de tentar matar mulher a golpes de faca no bairro Vergel do Lago
Mar revolto: ondas fortes danificam calçadão da Orla de Maceió
Homem é preso por tentativa de feminicídio em Maceió
Meu Pet: divulgue a foto do seu animal desaparecido
Em comunicado, Larry Magid, CEO e cofundador da ConnectSafely (ONG voltada para educação de usuários no ambiente online), defendeu o direito à privacidade dos adolescentes, mas que os pais precisam ser informados em casos em que houver risco para os jovens. Ele defendeu a decisão da Meta.
Recurso da Meta chegará ao Brasil este ano
Os alertas já estão disponíveis para pais que usam o recurso de supervisão parental no Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá.
A ferramenta estará disponível em outros lugares do mundo, incluindo o Brasil, até o final deste ano.
Além do aviso aos pais, a Meta está trabalhando em um recurso que permite conectar o Meta AI a serviços de emergência, no caso de conversas que sugiram risco de suicídio iminente por parte do usuário. A empresa revelou que, só no ano passado, foram mais de 19 mil encaminhamentos deste tipo no mundo todo.
