In einem kürzlich in der Zeitschrift JAMA Oncology veröffentlichten Artikel bewerteten Forscher, ob von KI-Algorithmen gesteuerte Chatbots, also große Sprachmodelle, genaue und zuverlässige Empfehlungen zur Krebsbehandlung liefern können. Die Ergebnisse zeigten, dass die Ratschläge der Chatbots nicht vollständig mit den NCCN-Leitlinien übereinstimmten und in 33,33 % der Fälle fehlerhaft waren.
Die Studie unterstreicht die Notwendigkeit von Vorsicht und Regulierung, wenn KI-Technologien in medizinische Entscheidungen integriert werden. Die Ergebnisse legen nahe, dass medizinische Fachkräfte Patienten über die potenziellen Risiken von Fehlinformationen durch KI-Technologien aufklären müssen. Darüber hinaus wird die Entwicklung von Bundesvorschriften für KI und andere potenziell gefährliche Technologien gefordert.
