Com o desenvolvimento contínuo da inteligência artificial, cresce a preocupação com a forma como os sistemas de IA retratam os adolescentes. Em um experimento, o estudante de doutorado da Universidade de Washington, Robert Wolff, pediu a um sistema de IA para completar a frase “Este adolescente na escola _____”. Esperando respostas como “estuda” ou “brinca”, ele se surpreendeu com a resposta “morreu”. Essa descoberta levou Wolff e sua equipe a investigar a fundo como a IA retrata os adolescentes. Nota da imagem: Imagem gerada por IA, fornecida pelo Midjourney.

A Comissão Federal de Comércio dos EUA (FTC) anunciou recentemente ao público que encaminhou uma queixa legal contra a Snap Inc. ao Departamento de Justiça dos EUA (DOJ). A FTC afirma que o chatbot de inteligência artificial da Snap pode apresentar "riscos e danos" para usuários jovens e sugere que a Snap pode estar ou está prestes a violar leis aplicáveis. Nota sobre a imagem: imagem gerada por IA, serviço de licenciamento de imagens Midjourney. O Snap é um aplicativo de mídia social popular entre os jovens, especialmente adolescentes.

Os pais de dois menores do Texas entraram com uma ação judicial federal de responsabilidade pelo produto contra a Character.AI, empresa apoiada pelo Google, alegando que seus chatbots causaram danos psicológicos a seus filhos por meio de interações inadequadas. A ação judicial alega que os bots incentivaram a automutilação e a violência, e até mesmo transmitiram mensagens emocionais perigosas a adolescentes. Os chatbots da Character.AI permitem que os usuários conversem com personagens virtuais personalizados e realistas que podem imitar pais, amigos ou até mesmo terapeutas.

Recentemente, o Meta anunciou que usará inteligência artificial para prever a idade dos usuários do Instagram, particularmente aqueles que se identificam como 'adolescentes'. Se o sistema suspeitar que estão mentindo, eles serão automaticamente movidos para contas de adolescentes. Essa decisão surge em meio à forte reação pública sobre o impacto das mídias sociais na saúde mental dos adolescentes. Em setembro, o Meta lançou novas contas projetadas especificamente para jovens entre 13 e 17 anos. Essas contas de adolescentes têm várias restrições embutidas, como quem pode entrar em contato com eles e qual conteúdo eles podem ver.

Recentemente, a Meta anunciou que usará inteligência artificial no Instagram para prever a idade dos usuários e automaticamente transferir qualquer usuário suspeito de fornecer uma idade falsa para uma conta de adolescente. Essa medida vem em resposta à crescente preocupação do público sobre o impacto das plataformas de mídia social na saúde mental dos adolescentes. A Meta introduziu contas de adolescentes em setembro deste ano. As contas de adolescentes são projetadas para usuários de 13 a 17 anos e incluem vários recursos de restrição, incluindo quem pode entrar em contato com eles e o que eles podem ver. A conta também...

Na era digital de hoje, a 'idade' dos adolescentes no mundo online tornou-se um problema complexo. Para enfrentar esse desafio, o Instagram está desenvolvendo uma tecnologia revolucionária de verificação de idade por IA, projetada para identificar com mais precisão usuários com idade entre 13 e 17 anos e integrá-los a um sistema especializado de gestão de contas de adolescentes. O cerne dessa tecnologia é um sistema de inteligência artificial desenvolvido pela própria Meta (empresa matriz do Instagram). Se o sistema conseguir identificar com precisão usuários adultos, isso aumentará significativamente a segurança e o uso da plataforma.

Recentemente, o Instagram anunciou que usará inteligência artificial para verificar a idade dos usuários, com o objetivo de melhor identificar adolescentes. Essa nova medida visa colocar usuários com idade entre 13 e 17 anos em novas configurações de contas para adolescentes. Esta tecnologia da Meta, se puder identificar com precisão os adultos, representará um grande avanço na segurança e privacidade dos usuários, especialmente em comparação com a verificação de idade imposta pelos governos estaduais em nível de smartphone. Desde o relatório de março de 2021, o Instagram...

O uso de deepfakes por adolescentes sul-coreanos para criar conteúdo pornográfico gerou grande preocupação. O aumento de crimes sexuais online levou a polícia a pedir maior educação e orientação para jovens, melhorando a segurança cibernética e a conscientização ética para reduzir esses incidentes. Conteúdo pornográfico direcionado a escolas e professores foi encontrado no Telegram, envolvendo múltiplos casos. Nos primeiros sete meses do ano, houve um aumento significativo no número de casos relacionados a deepfakes relatados na Coreia do Sul, levando a apelos por maior regulamentação e educação jurídica.

Pesquisa revela que 13% dos adolescentes americanos estão usando inteligência artificial, como o ChatGPT, para trapacear. As escolas enfrentam o desafio de equilibrar novas tecnologias com a integridade acadêmica. Recomenda-se que as escolas fortaleçam as atividades de educação em integridade acadêmica.

O Information Commissioner's Office do Reino Unido emitiu um aviso de execução preliminar, expressando preocupações sobre o chatbot de IA generativo da Snap. A investigação sugere que a Snap não identificou e avaliou adequadamente os riscos para a privacidade de crianças e outros usuários do 'My AI', mas os resultados ainda não são conclusivos. A Snap se comprometeu a colaborar com o Information Commissioner's Office para garantir seus procedimentos de avaliação de riscos, afirmando que o chatbot de IA passou por revisões legais e de privacidade antes do lançamento. O chatbot de IA da Snap é baseado no ChatGPT da OpenAI e inclui avisos aos pais e salvaguardas contra conteúdo ofensivo.

O estudo coletou mais de 4.000 potenciais fatores de risco e utilizou modelos de aprendizado de máquina para analisá-los. O modelo identificou problemas de saúde mental como depressão e ansiedade como os mais importantes. Em comparação com modelos que consideram apenas o comportamento passado, este modelo pode prever o risco futuro com maior precisão.