Meta implementa monitoramento de conversas para proteger

A Meta, empresa controladora de plataformas como Instagram, Facebook e Messenger, passou a monitorar as conversas de adolescentes em suas redes sociais. O objetivo é identificar sinais de possíveis riscos de suicídio e automutilação, com o intuito de alertar pais e responsáveis quando o sistema detectar comportamentos preocupantes. Essa iniciativa foi anunciada na última quinta-feira (29) e já está disponível para usuários no Brasil que utilizam os recursos de supervisão parental da companhia.

O monitoramento não se restringe apenas às interações diretas com o sistema de inteligência artificial da Meta, mas também abrange pesquisas realizadas pelos jovens em busca de informações relacionadas a suicídio ou automutilação. As notificações sobre riscos são enviadas aos responsáveis, orientando-os sobre como abordar o tema com os adolescentes.

Como funciona o monitoramento?

O sistema de inteligência artificial da Meta foi desenvolvido para identificar mensagens que possam indicar que um adolescente esteja em perigo. Ele analisa as interações do jovem com a Meta AI, buscando por pistas que possam sugerir um risco iminente de automutilação ou suicídio. Quando a IA detecta uma conversa suspeita, essa interação é encaminhada para uma análise humana, garantindo que um profissional revise as mensagens antes de qualquer notificação ser enviada aos responsáveis.

É importante ressaltar que as notificações não divulgam o conteúdo das mensagens ou os termos pesquisados pelos adolescentes, mas sim alertam sobre a possibilidade de risco. A Meta adverte que o sistema pode gerar falsos positivos, especialmente em casos onde as mensagens têm interpretações ambíguas.

Para pesquisas feitas no Facebook e Instagram, os alertas são acionados após repetidas buscas por termos relacionados a suicídio ou automutilação em um curto período. No entanto, a empresa não especificou a quantidade de buscas necessárias para gerar um alerta ou o intervalo de tempo considerado para essa análise.

Os responsáveis podem receber essas notificações por e-mail, SMS, WhatsApp ou diretamente pelos aplicativos da Meta, dependendo das informações de contato que possuem cadastradas.

Ao receber um aviso, os pais terão acesso a informações sobre o risco potencial e dicas de como conversar com seus filhos sobre o assunto. Além disso, serão apresentados recursos de apoio especializados para ajudar na situação delicada.

Quem pode receber os alertas?

Os novos alertas são direcionados apenas a pais e responsáveis que utilizam as ferramentas de supervisão parental oferecidas pela Meta. Isso significa que apenas aqueles com contas vinculadas ao sistema de supervisão poderão receber as notificações, assegurando que os responsáveis tenham um controle adequado sobre as interações de seus filhos com a IA.

Desde abril, a Meta já oferecia uma ferramenta que permitia aos responsáveis visualizar os principais tópicos discutidos pelos adolescentes com a inteligência artificial da plataforma nos últimos sete dias. Com a expansão das notificações de Risco para o Facebook e Messenger, a Meta busca oferecer um suporte mais completo para a proteção dos jovens usuários.

Para mais informações atualizadas, visite digitalmaisseguro.com.

Por que isso importa

Os alertas são enviados apenas a pais e responsáveis que utilizam as ferramentas de supervisão parental nas contas de adolescentes.

O que vem a seguir

Não, as notificações não revelam o conteúdo das mensagens ou os termos pesquisados, apenas alertam sobre potenciais riscos.

Como a Meta identifica os riscos nas conversas?

A Meta utiliza um sistema de inteligência artificial para analisar as conversas e detectar sinais de risco de suicídio ou automutilação.

As notificações revelam o conteúdo das conversas?

Não, as notificações não revelam o conteúdo das mensagens ou os termos pesquisados, apenas alertam sobre potenciais riscos.

A Meta, empresa controladora de plataformas como Instagram, Facebook e Messenger, passou a monitorar as conversas de adolescentes em suas redes sociais. O objetivo é identificar sinais de possíveis riscos de suicídio e automutilação, com o intuito de alertar pais e responsáveis quando o sistema detectar comportamentos preocupantes. Essa iniciativa foi anunciada na última quinta-feira (29) e já está disponível para usuários no Brasil que utilizam os recursos de supervisão parental da companhia. No contexto brasileiro, Meta permanece no centro da cobertura. Os fatos já relatados nesta reportagem ajudam a entender o impacto imediato, os atores envolvidos e o que pode mudar nos próximos dias. A redação prioriza precisão, números quando disponíveis e o desdobramento prático para quem acompanha o tema no país, sem copiar o texto original fonte. Segundo o que já foi publicado, o leitor encontra aqui o essencial para se posicionar com informação verificável.

A Meta inicia o monitoramento de conversas de adolescentes em suas plataformas para detectar sinais de suicídio e automutilação, enviando alertas aos pais. O sistema analisa interações e pesquisas para identificar riscos, promovendo um ambiente mais seguro para os jovens. No contexto brasileiro, Meta permanece no centro da cobertura. Os fatos já relatados nesta reportagem ajudam a entender o impacto imediato, os atores envolvidos e o que pode mudar nos próximos dias. A redação prioriza precisão, números quando disponíveis e o desdobramento prático para quem acompanha o tema no país, sem copiar o texto original fonte. Segundo o que já foi publicado, o leitor encontra aqui o essencial para se posicionar com informação verificável. No contexto brasileiro, Meta permanece no centro da cobertura. Os fatos já relatados nesta reportagem ajudam a entender o impacto imediato, os atores envolvidos e o que pode mudar nos próximos dias. A redação prioriza precisão, números quando disponíveis e o desdobramento prático para quem acompanha o tema no país, sem copiar

No Brasil, Famílias entram nesta cobertura.