Falha de segurança em IA! DALL-E 3 da OpenAI é vulnerável a ataques de jailbreak, gerando imagens de crianças fumando

站长之家

Publicado emNotícias e Informações de IA · 1 minutos de leitura · Oct 23, 2023

O DALL-E 3 da OpenAI é uma poderosa tecnologia de IA para geração de imagens, mas eventos recentes demonstram que não está isento de falhas. Um usuário do LinkedIn chamado Peter Gostev descobriu uma maneira de "burlar" o sistema, gerando com sucesso um conjunto chocante de imagens mostrando crianças fumando. Este incidente gerou preocupações sobre a segurança e a ética dos sistemas de IA.

OpenAI lança novo modelo de IA excelente em escrita criativa

Na área da inteligência artificial, a escrita criativa sempre foi uma aplicação relativamente nova e desafiadora. No entanto, a OpenAI anunciou recentemente que treinou com sucesso um "novo modelo" que se destaca neste campo, atraindo muita atenção. O CEO da OpenAI, Sam Altman, compartilhou a notícia emocionante na plataforma de mídia social X e revelou que o modelo consegue captar com precisão a atmosfera de "metarromances". Altman afirmou que o desempenho deste novo modelo em escrita criativa o deixou

Valor do AI generativo no mercado de negociação estimado em US$ 2,36 bilhões até 2034

De acordo com o último relatório da Market.us, a inteligência artificial generativa está experimentando uma rápida expansão no mercado de negociação. Espera-se que o tamanho do mercado cresça de US$ 245,3 milhões em 2024 para US$ 2,3587 bilhões em 2034, representando uma taxa de crescimento anual composta (CAGR) de 25,4%. Esse crescimento é impulsionado principalmente pela crescente adoção de estratégias de negociação impulsionadas por IA e tecnologias analíticas avançadas. Nota da imagem: Imagem gerada por IA, fornecedora de serviços de licenciamento de imagens Midjourney. Em 2024, a região da América do Norte detinha a maior parte do mercado.

Mais de mil patentes relacionadas a robôs humanoides; aumento de mais de 200% nas solicitações em 2024

Em 2025, o setor de robôs humanoides na China reserva muitas surpresas. Em 11 de março, a Zhiyuan Robotics lançou oficialmente o robô humanoide inteligente de dois pés Lingxi X2, capaz de andar de skate, segway, bicicleta e até costurar uvas. Além disso, na Conferência de Desenvolvimento de Robôs de Inteligência Embodied de 2025, o vice-reitor da Universidade de Tianjin, Wang Tianyou, afirmou que a taxa de crescimento anual do mercado global de robôs humanoides deverá ultrapassar 30% nos próximos cinco anos, e o mercado chinês de robôs humanoides poderá se aproximar de um trilhão de yuans até 2030. Dados do Qichacha mostram que atualmente na China...

CEO da Anthropic: IA fará 90% do trabalho de programação em 3 a 6 meses

O CEO da Anthropic, Dario Amodei, disse em um fórum do Conselho de Relações Exteriores dos EUA que acredita que a inteligência artificial fará 90% do trabalho de programação nos próximos 3 a 6 meses. Amodei mencionou a possibilidade da IA escrever quase todo o código em 12 meses, uma declaração que gerou considerável atenção. Na ocasião, o presidente do Conselho de Relações Exteriores, Mike Froman, estava presente.