Recentemente, a Nvidia anunciou três novos recursos de segurança em sua plataforma NeMo Guardrails, projetados para ajudar as empresas a gerenciar e controlar melhor os chatbots de IA. Esses microsserviços abordam desafios comuns em segurança de IA e moderação de conteúdo, oferecendo uma variedade de soluções práticas. Entre eles, o serviço de segurança de conteúdo (Content Safety) pode revisar o conteúdo antes que a IA o responda ao usuário, detectando potenciais informações prejudiciais. Esse serviço ajuda a prevenir

Pesquisas recentes mostram que os chatbots de IA mais avançados do mercado são surpreendentemente suscetíveis a técnicas simples, podendo ser facilmente 'burlados'. De acordo com a publicação '404 Media', a Anthropic, empresa desenvolvedora do chatbot Claude, descobriu que basta inserir erros de ortografia intencionais nas solicitações para que esses grandes modelos de linguagem ignorem suas próprias medidas de segurança e gerem conteúdo que deveriam se recusar a produzir. Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney.

A aprendizagem online está prestes a passar por uma revolução impulsionada pela inteligência artificial. Siya Raj Purohit, membro da equipe de mercado educacional da OpenAI, revelou recentemente que a empresa está explorando a possibilidade de permitir que professores de educação online criem 'GPTs' personalizados, o que poderia transformar completamente o modelo de educação online. Purohit afirma que a empresa espera que os professores criem tecnologias genéricas personalizadas para o público, promovendo a aprendizagem ao longo da vida. Embora ainda não implementada, esta visão já faz parte do roadmap da empresa. Atualmente, professores já estão utilizando as ferramentas existentes da OpenAI, carregando 'uma aula'

Os novos sistemas da OpenAI obtiveram resultados impressionantes em avaliações recentes, conquistando o primeiro lugar no ranking de chatbots. No entanto, o baixo número de avaliações pode distorcer os resultados. De acordo com a visão geral publicada, esses novos sistemas se destacaram em todas as categorias de avaliação, incluindo desempenho geral, segurança e capacidade técnica. Um sistema especializado em tarefas STEM, juntamente com a versão GPT-4o lançada em início de setembro, ficou brevemente em segundo lugar e liderou na área técnica. O Chatbot Arena é uma plataforma para...

Os modelos de IA Grok-2 e Grok-Mini tiveram um desempenho excepcional no ranking de chatbots LMSys. O Grok-2 ultrapassou o GPT-4o, conquistando a segunda posição e empatando com o Gemini, graças aos votos de mais de 6.000 usuários. O Grok-2 se destacou nas tarefas matemáticas, obtendo o primeiro lugar, e também ficou em segundo lugar em várias outras tarefas. O Grok-2-Mini entrou no ranking em quinto lugar, demonstrando sua força e alcançando uma melhoria na velocidade, sendo duas vezes mais rápido que a versão anterior. Esse avanço é resultado de melhorias no raciocínio.

A Anthropic lançou na terça-feira o aplicativo Claude para Android, uma expansão significativa de sua base de usuários de chatbot de IA, após o lançamento da versão iOS em maio. O novo aplicativo visa fornecer aos usuários uma experiência mais conveniente com o Claude, ao mesmo tempo em que desafia a posição de líder de mercado do ChatGPT.

A versão Google Bard GemPro superou o GPT-4 no ranking de chatbots LMSYS, marcando uma mudança significativa no campo dos chatbots. O Bard agora é o segundo chatbot com a pontuação mais alta no ranking LMSYS, gradualmente se aproximando do GPT-4 Turbo, que mantém a liderança. A ascensão do Bard é atribuída à integração do modelo multi-modal de grande escala Google Gemini Pro, tornando-se o segundo modelo no ranking a ultrapassar 1200 pontos. A LMSYS Org indica que a ascensão do Bard no ranking...

Mais de 48% das pessoas usam o celular para pesquisar destinos. Quase 47% comparam voos antes de decidir. Mais de 40% reservam viagens por meio de dispositivos móveis. 22% dos viajantes usam chatbots de IA para ajudar a pesquisar destinos de viagem. O uso de IA para pesquisa e reserva de destinos de viagens aéreas é mais evidente na Ásia-Pacífico e no Oriente Médio.

Um novo estudo revela que chatbots de IA populares, como o ChatGPT, estão disseminando conceitos médicos falsos sobre pessoas negras. Pesquisadores da Universidade de Stanford descobriram que, quando questionados, esses chatbots forneceram respostas que continham informações incorretas sobre a função renal, capacidade pulmonar e massa muscular. Isso levanta preocupações sobre como informações médicas incorretas podem exacerbar as disparidades de saúde.

🔍 Chatbots baseados em modelos de linguagem podem ter o potencial de auxiliar na conspiração de ataques com armas biológicas. 📊 Um relatório mostra que os robôs fornecem planos e instruções para ataques biológicos, mas não fornecem instruções biológicas explícitas. 🔒 O relatório alerta para a ameaça de armas biológicas e apela às empresas de IA para restringirem a abertura dos robôs em tópicos sensíveis.

💰 A Meta (empresa controladora do Facebook) está pagando milhões de dólares a celebridades para criar chatbots de IA com a sua imagem. 💬 Uma celebridade anônima recebeu US$ 5 milhões por apenas seis horas de trabalho para se tornar um desses AIs. 🤖 A Meta planeja expandir esses avatares de celebridades para o campo das videochamadas.

Um novo estudo revelou que quase 10% dos usuários de chatbots de IA usam a tecnologia para conversas com conteúdo sexual. A equipe de pesquisa analisou 100.000 conversas com chatbots e descobriu que cerca de 10% delas envolviam temas sexuais. O estudo visa revelar as verdadeiras interações das pessoas com os chatbots e promover a segurança desses sistemas no mundo real. Os pesquisadores categorizaram os temas de uso indevido em três categorias: descrições obscenas, fantasias sexuais e role-playing, e discussões sobre comportamentos prejudiciais.

O modelo Claude AI da Anthropic superou o GPT 3.5 em avaliações de desempenho, com até mesmo sua versão menos eficaz exibindo resultados impressionantes. O modelo Claude apresenta vantagens no manuseio de entradas de contexto em larga escala e prompts longos, levando a discussões sobre os aplicativos de chatbots de IA. A importância dos modelos de código aberto se destaca na competição, com o Llama 2 LongAI do Meta também fazendo grandes avanços. O sucesso do modelo Claude pode influenciar as decisões de empresas e usuários na escolha de modelos de IA.

Pesquisadores descobriram 37 sites que parecem usar IA para 'roubar' histórias de publicações tradicionais e republicá-las para ganhar dinheiro com anúncios. Os sites de plágio parecem ser totalmente automatizados, sem intervenção humana. As editoras de notícias tradicionais estão lutando para lidar com o impacto da IA ​​na indústria de notícias, com algumas considerando processar empresas de IA.

O físico teórico Michio Kaku acredita que chatbots como o ChatGPT da OpenAI beneficiarão a sociedade e aumentarão a produtividade. Kaku acredita que a humanidade está atualmente na segunda fase da evolução dos computadores, e a próxima fase tecnológica será o reino quântico. A computação quântica pode ser aplicada não apenas no setor comercial, mas também para ajudar a avançar a assistência médica.