Mistral AI hat sein neues Open-Source-Sprachmodell Mistral Small 3.1 veröffentlicht, das ein beeindruckendes 128K-Ultra-Langzeitgedächtnis bietet und in Bezug auf die Parameteranzahl das GPT-4o Mini übertrifft. Dies stellt einen bedeutenden Fortschritt im Bereich der KI dar.

Das Google Research Team hat kürzlich die revolutionäre Modellarchitektur der 'Titans'-Serie veröffentlicht, die durch biomimetisches Design eine bahnbrechende Kontextlänge von 2 Millionen Token erreicht hat. Die zugehörige Technologie soll zukünftig Open Source sein. Die Kerninnovation dieser Architektur liegt in der Einführung eines tiefen neuronalen Langzeitgedächtnismoduls, dessen Design von menschlichen Gedächtnissystemen inspiriert wurde. Titans kombiniert geschickt die schnelle Reaktionsfähigkeit des Kurzzeitgedächtnisses mit der Dauerhaftigkeit des Langzeitgedächtnisses und nutzt gleichzeitig einen Aufmerksamkeitsmechanismus zur Verarbeitung des unmittelbaren Kontextes. Dies bildet ein hocheffizientes Informationssystem. Laut Google...

Das KI-Forschungsinstitut Nous Research hat kürzlich den Nous Chat Chatbot vorgestellt, der auf sein großes Sprachmodell Hermes3-70B zugreift. Der Nous Chat Chatbot bietet eine vertraute, ChatGPT-ähnliche Benutzeroberfläche und ermöglicht es Benutzern, mit dem Modell zu interagieren, ohne selbst Code ausführen zu müssen. Der Nous Chat Bot verfügt über Funktionen wie Langzeitgedächtnis, Mehrrunden-Dialoge, komplexes Rollenspiel und Selbstgespräche. Derzeit ist Nous Rese...

Die neueste Forschung des Alibaba DAMO Academy zeigt, dass bestehende Text-zu-Bild-Diffusionstransformer-Modelle bereits die Fähigkeit besitzen, mehrere Bilder mit bestimmten Beziehungen zu generieren. Mit nur geringem „Anstoß“ können sie diese Fähigkeiten „verknüpfen“ und qualitativ hochwertige Bildserien erstellen. Traditionelle Diffusionsmodelle ähneln eher einem Schüler, der „auswendig lernt“ und für die Generierung hochwertiger Bilder mit riesigen Datenmengen trainiert werden muss. Mit IC-LoRA ausgestattet, verwandeln sie sich in „begriffsstarke“ Überflieger, die nur mit…

Große Sprachmodelle (LLMs) wie die GPT-Serie zeigen dank riesiger Datensätze erstaunliche Fähigkeiten im Sprachverständnis, im logischen Denken und in der Planung und erreichen in verschiedenen anspruchsvollen Aufgaben bereits ein menschenähnliches Niveau. Die meisten Forschungsarbeiten konzentrieren sich darauf, diese Modelle durch Training mit noch größeren Datensätzen weiter zu verbessern, mit dem Ziel, leistungsstärkere Basismodelle zu entwickeln. Forscher sind jedoch der Ansicht, dass die Fähigkeit der Modelle zur kontinuierlichen Weiterentwicklung auch in der Inferenzphase – also die KI-Selbstevolution – ebenso wichtig für die Weiterentwicklung der KI ist.

Kürzlich hat der Sicherheitsforscher Johann Rehberger eine Sicherheitslücke in ChatGPT entdeckt, die es Hackern ermöglicht, falsche Informationen und schädliche Befehle im Langzeitgedächtnis der Benutzer einzupflanzen. Obwohl er OpenAI über das Problem informierte, schenkte das Unternehmen dem Problem leider nicht genügend Aufmerksamkeit und beendete die Untersuchung schnell, wobei es behauptete, es handele sich nicht um ein Sicherheitsproblem. Angesichts dieser Situation gab Rehberger nicht auf und entwickelte ein Proof-of-Concept-Angriffsszenario, das diese...

Das auf generative KI-Programmierung spezialisierte Startup Magic hat eine Finanzierung in Höhe von 320 Millionen US-Dollar abgeschlossen und damit ein Gesamtfinanzierungsvolumen von fast 465 Millionen US-Dollar erreicht. Die Runde wurde von Eric Schmidt, dem ehemaligen CEO von Google, angeführt, mit Beteiligung mehrerer namhafter Investoren. Die Kerntechnologie von Magic, das „Langzeitgedächtnisnetzwerk“ (LTM), kann große Datenmengen verarbeiten und bei der Codegenerierung Verzerrungen vermeiden. Das neueste Modell, LTM-2-mini, kann 100 Millionen Token verarbeiten, was 10 Millionen Codezeilen oder 750 Romanen entspricht. In Zusammenarbeit mit Google Cloud ist der Aufbau von zwei ...

Microsoft bringt AI Explorer auf den Markt. PC-Hersteller beginnen mit der Einführung von KI-PCs. Microsoft wird ein wichtiges Windows 11-Update mit der Funktion "AI Explorer" veröffentlichen. AI Explorer ist die Weiterentwicklung des Microsoft KI-Assistenten. AI Explorer wird erstmals in Windows 11 24H2 im Herbst dieses Jahres erscheinen.