Kürzlich sorgte ChatGPT von OpenAI für Aufsehen, da es Nutzern „selbstständig“ Nachrichten schickte.
Am 15. September teilte ein Nutzer namens SentuBill im Reddit-ChatGPT-Forum einen Screenshot, der zeigte, wie der Chatbot ihn nach seiner ersten Schulwoche befragte. Im weiteren Verlauf des Gesprächs bot ChatGPT sogar an, den Nutzer regelmäßig „zu betreuen“ und fragte, ob es selbstständig Gespräche initiieren solle. Ein anderer Nutzer berichtete von einer ähnlichen Erfahrung: Der KI erkundigte sich nach dem Fortschritt seiner Krankheitssymptome, die er eine Woche zuvor untersucht hatte.
Viele reagierten auf diese unerwartete Interaktion mit Neugier und sogar Besorgnis. Zunächst vermuteten einige, es handele sich um eine neue Funktion der o1-preview- und o1-mini-Modelle von OpenAI.
Diese Modelle werden als „Erdbeer-Projekt“ bezeichnet. Das Unternehmen erklärte, diese Technologie erlaube es der KI, vor der Beantwortung von Fragen nachzudenken, ähnlich wie ein Mensch. Daher glaubten einige, dass ChatGTPTs „selbstständige“ Nachrichten eine neue Verhaltensweise darstellten; andere vermuteten sogar Fälschungen.
Der KI-Entwickler Benjamin de Kraker zeigte auf X (vormals Twitter), wie man die KI anweisen kann, vor Beginn eines Gesprächs eine Aufforderung zu geben und die ursprüngliche Eingabe zu löschen.
Nach weiteren Untersuchungen stellte sich jedoch heraus, dass es sich um einen Fehler handelte. Die Technologie-Nachrichtenseite Futurism kontaktierte OpenAI und erhielt die Auskunft, dass ChatGPT in diesen Fällen versuchte, auf eine nicht korrekt gesendete oder scheinbar leere Aufforderung zu reagieren. Das KI-Modell gab daraufhin eine „Standard“-Antwort oder stützte sich auf seine eigenen Erinnerungen.
Sie können also beruhigt sein: ChatGPT ist nicht bewusst geworden und wird nicht selbstständig mit Nutzern kommunizieren. Angesichts der rasanten Entwicklung der KI-Technologie wären wir jedoch nicht überrascht, wenn dieser Fehler in Zukunft zu einer Funktion werden könnte.
Schließlich hat ChatGPT in kurzer Zeit enorme Fortschritte gemacht, und nach einigen Anpassungen könnte es in Zukunft tatsächlich gelegentlich selbstständig Nachrichten an Nutzer senden.
Wichtigste Punkte:
📱 ChatGPT sendete aufgrund eines technischen Fehlers unerwartet Nachrichten an Nutzer, was bei einigen für Besorgnis sorgte.
🔧 OpenAI bestätigte, dass dieses Verhalten auf einen Fehler zurückzuführen ist, der durch nicht korrekt gesendete Aufforderungen verursacht wurde.
🤖 Die rasante Entwicklung der KI-Technologie könnte in Zukunft die Funktion selbstständiger Nachrichtenübermittlung ermöglichen.