Eine neue Studie enthüllt Unsicherheiten bezüglich der Genauigkeit von ChatGPT bei der Beantwortung medizinischer Fragen. Von 39 gestellten Fragen wurden lediglich 10 korrekt beantwortet.
Die Forscher stellten fest, dass die Antworten auf die restlichen 29 Fragen unvollständig oder ungenau waren. Besonders besorgniserregend ist die Beobachtung, dass ChatGPT in einigen Fällen sogar Referenzen erfunden hat, was seine Zuverlässigkeit stark in Frage stellt.
OpenAI reagierte darauf mit der Empfehlung, die Antworten von ChatGPT nicht als professionelle medizinische Beratung zu betrachten. Ärzte und medizinisches Personal werden dringend dazu aufgefordert, künstliche Intelligenz-basierte medizinische Ratschläge mit Vorsicht zu verwenden.
Die Studienergebnisse haben eine Diskussion über den Einsatz von künstlicher Intelligenz im medizinischen Bereich ausgelöst und verdeutlichen, dass KI-Technologien in kritischen Bereichen weiterhin Herausforderungen und Verbesserungspotenzial aufweisen.