Recientemente, el Centro de seguridad de Douyin publicó un anuncio indicando que continuará reforzando la supervisión del contenido relacionado con inversiones bursátiles en la plataforma, con el objetivo de crear un entorno online saludable. La plataforma anima a profesionales de finanzas y valores a compartir información bursátil veraz y fiable, promoviendo una cultura de no difundir ni crear rumores falsos para impulsar el desarrollo del sector. Sin embargo, Douyin ha detectado que algunas cuentas, sin la cualificación necesaria, utilizan herramientas de IA para publicar información falsa, atraer la atención de los usuarios e incluso cometer fraudes. Estas cuentas suelen promocionar herramientas de selección de acciones con IA de alta eficiencia...

Anthropic, una empresa líder en IA, ha retirado discretamente su colaboración con el gobierno de Biden en materia de seguridad de la IA. Este movimiento plantea interrogantes sobre el compromiso de las grandes tecnológicas con la seguridad de la IA y un posible cambio de estrategia.

Se ha descubierto que la herramienta de modelos grandes Ollama presenta graves vulnerabilidades de seguridad, poniendo en riesgo a los usuarios. Se recomienda precaución y se investiga la solución al problema.

Recientemente, Ping An Healthcare Technology Company Limited lanzó oficialmente su servicio de asistente de IA para médicos, "Ping An Xin Yi". Este servicio se lanzará completamente en la aplicación Ping An Good Doctor, brindando a los usuarios consultas de salud durante todo el día. Este asistente digital, mediante tecnología avanzada de persona digital y macrodatos médicos, combinada con el procesamiento del lenguaje natural y el aprendizaje automático, puede simular de manera eficiente el conocimiento y la experiencia profesional de un médico real. Nota de la imagen: La imagen fue generada por IA, el servicio de autorización de imágenes es Midjourney. Los usuarios pueden acceder directamente a través de la aplicación Ping An Good Doctor.

Die Hunan Provinz Gesundheitsbehörde hat kürzlich eine neue Verordnung herausgegeben, die die automatische Generierung von Rezepten durch künstliche Intelligenz in Online-Krankenhäusern explizit verbietet. Diese Regelung hat breite öffentliche Aufmerksamkeit erregt, besonders vor dem Hintergrund der zunehmenden Verbreitung von Online-Gesundheitsdiensten. Bildquelle: KI-generiertes Bild, lizenziert durch Midjourney. Laut der Mitteilung der Hunan Provinz Gesundheitsbehörde müssen Online-Krankenhäuser bei der Ausstellung von Rezepten die relevanten Vorschriften einhalten und sicherstellen, dass die Verschreibung von den tatsächlich behandelnden Ärzten persönlich vorgenommen wird. Die ärztliche Beratung muss mit dem Patienten oder dessen Angehörigen erfolgen.

La empresa de seguridad de IA Adversa AI ha publicado un informe alarmante que afirma que el nuevo modelo Grok3 de la empresa de Elon Musk, xAI, presenta importantes vulnerabilidades de seguridad cibernética. El equipo de investigación de Adversa descubrió que este último modelo de IA es vulnerable a "ataques de evasión sencillos", lo que podría permitir a los actores maliciosos obtener información sensible como "cómo engañar a los niños, cómo deshacerse de un cadáver, cómo extraer DMT y cómo fabricar una bomba". Peor aún, Adversa...

Con más de 3000 millones de usuarios de Android, la presión sobre Google para proteger la seguridad de sus usuarios aumenta cada día. Para combatir los crecientes ciberataques, Google ha anunciado una mayor inversión en inteligencia artificial (IA) para mejorar la detección de malware, reforzar las medidas de protección de la privacidad y ofrecer herramientas más completas a los desarrolladores. Gracias a estos esfuerzos, Google ha logrado bloquear en el último año la publicación de 2,36 millones de aplicaciones que infringen sus políticas en Google Play Store. Además, Google también ha bloqueado más de 150.000 cuentas que intentaban publicar

El gobierno del Reino Unido anunció recientemente que cambiará el nombre de su institución, anteriormente conocida como 'Instituto de Seguridad de IA', a 'Centro de Investigación de Seguridad de IA'. Este cambio marca un giro significativo en la estrategia del gobierno en el ámbito de la IA. El nuevo nombre no solo refleja los cambios en las funciones de la institución, sino que también demuestra la firme determinación del gobierno británico en impulsar el desarrollo de la industria de la IA. Nota sobre la imagen: Imagen generada por IA, proveedora de servicios de licencias de imágenes Midjourney. Este cambio, anunciado por el Departamento de Ciencia, Industria y Tecnología, verá al nuevo Centro de Investigación de Seguridad de IA centrándose en la ciberseguridad, con el objetivo de...

En solo seis días, los participantes lograron eludir todas las medidas de seguridad del modelo de inteligencia artificial (IA) Claude3.5 de Anthropic, un avance que ha generado un nuevo debate en el campo de la seguridad de la IA. Jan Leike, ex miembro del equipo de alineación de OpenAI y ahora en Anthropic, anunció en la plataforma X que un participante logró superar con éxito todos los ocho niveles de seguridad. Este esfuerzo colectivo involucró aproximadamente 3.700 horas de pruebas y 300.000 mensajes de los participantes. A pesar de los desafíos,

En la reciente Cumbre de Acción sobre la IA celebrada en París, Sam Altman, CEO de OpenAI, respondió con firmeza a la oferta de adquisición de Elon Musk. Según los informes, un consorcio liderado por Musk planea adquirir el control mayoritario de OpenAI por 974 mil millones de dólares, una propuesta que Altman rechazó, calificándola como el último movimiento en una serie de estrategias de Musk. Altman cree que la intención de Musk podría ser ralentizar el desarrollo de OpenAI. En una entrevista, Altman admitió que OpenAI no es un...

En la era digital actual, la seguridad online de los niños es una preocupación cada vez mayor. Recientemente, Roblox, Discord, OpenAI y Google lanzaron una organización sin fines de lucro llamada ROOST (Herramientas Abiertas y Robustas para la Seguridad Online), cuyo objetivo es construir una infraestructura de seguridad escalable e interconectada para la era de la IA. Esta nueva organización tiene como objetivo proporcionar herramientas de seguridad de código abierto a instituciones públicas y privadas para ayudarlas a mejorar la protección en sus propias plataformas, con especial atención a la seguridad de los niños. Nota sobre la imagen: Imagen generada por IA

El laboratorio XLab de Qi Anxin publicó el 6 de febrero un nuevo informe de seguridad que revela una campaña masiva de phishing dirigida a los usuarios de DeepSeek. Los datos muestran que la cantidad de sitios web de phishing que imitan a DeepSeek supera los 2000 y sigue creciendo. Según el informe, entre el 1 de diciembre de 2024 y el 3 de febrero de 2025, se detectaron 2650 dominios falsos que imitaban a DeepSeek. Esta oleada de registros de dominios falsos comenzó el 26 de enero de 2025 y alcanzó su punto máximo el 28 de enero. A pesar de la disminución en la velocidad...

Recientemente, QiAnXin anunció que ha completado con éxito la integración completa con DeepSeek (深度求索), lo que marca un nuevo hito en la aplicación y el desarrollo de su gran modelo de seguridad QAX. QiAnXin indicó que este gran modelo de seguridad se ha integrado profundamente en varias áreas clave, incluyendo la evaluación de amenazas, las operaciones de seguridad, las pruebas de penetración y la gestión de vulnerabilidades, y la gestión de identidades y accesos. Nota sobre la imagen: La imagen fue generada por IA, y el proveedor de servicios de licencias de imágenes es Midjourney. En el contexto de una situación de seguridad informática cada vez más grave, los ciberataques...

Recientemente, el modelo nacional de IA DeepSeek ha destacado en el campo mundial de la IA, mostrando una impresionante capacidad técnica, pero también ha enfrentado amenazas de ataques cibernéticos externos. En este contexto, el fundador del Grupo 360, Zhou Hongyi, anunció que 360 proporcionará gratuitamente una protección integral de ciberseguridad a DeepSeek, apoyando activamente el desarrollo de la tecnología de IA nacional.

Character AI, una plataforma que permite a los usuarios interactuar con chatbots de IA mediante juegos de roles, solicitó recientemente el sobreseimiento de una demanda presentada en el Tribunal de Distrito de los Estados Unidos para el Distrito Medio de Florida. La demandante, Megan Garcia, acusa a Character AI de causar daños a su hijo de 14 años, Sewell Setzer III, alegando que las interacciones con un chatbot llamado "Dany" lo aislaron gradualmente del mundo real y finalmente lo llevaron a...

En la reciente Conferencia JP Morgan Healthcare 2025, NVIDIA e Innophore anunciaron una emocionante colaboración para lanzar a finales de enero de 2025 CavitOmiX, una plataforma de cribado de seguridad de fármacos impulsada por inteligencia artificial (IA). Esta plataforma tiene como objetivo mejorar la eficiencia y precisión del diseño de fármacos mediante el análisis de los sitios de unión de proteínas, lo que representa un cambio revolucionario en el campo del desarrollo de fármacos. Christian Gruber, CEO de Innophore...

Recientemente, un investigador de seguridad alemán, Benjamin Fleisch, publicó un informe en GitHub de Microsoft que señala una grave vulnerabilidad de seguridad en la API de ChatGPT de OpenAI. Esta vulnerabilidad podría ser explotada para lanzar ataques de denegación de servicio distribuidos (DDoS). La vulnerabilidad permite a los atacantes, mediante simples solicitudes HTTP, utilizar el rastreador web de ChatGPT para enviar solicitudes masivas a cualquier sitio web, llegando incluso a causar la caída del sitio objetivo. Nota de la imagen: Imagen generada por IA