Die Verwendung nicht regulierter KI-Tools zur Unterstützung der Patientendiagnose durch Ärzte bereitet den Aufsichtsbehörden Sorgen. Die mangelnde Erklärbarkeit der Funktionsweise von KI-Modellen erschwert die Regulierung. Unge testete KI-Tools bergen ein erhöhtes Risiko für medizinische Behandlungsfehler und damit verbundene Rechtsstreitigkeiten.
Medizinische Fakultäten und akademische Zentren könnten eine mögliche Lösung zur Regulierung von KI-Tools im Gesundheitswesen darstellen.
Eine aktuelle Umfrage zeigt, dass immer mehr Hausärzte KI-Tools wie GPT zur Unterstützung ihrer täglichen Arbeit einsetzen. Laut einer im Fachmagazin ‚BMJ Health & Care Informatics‘ veröffentlichten Studie gaben von 1006 befragten Hausärzten etwa 20% an, KI-Chatbots wie ChatGPT, Bing AI und Googles Gemini bereits in der klinischen Praxis verwendet zu haben. Bildquelle: KI-generiertes Bild, Bildrechte vorbehalten.
Eine Gruppe von Whistleblowern wirft OpenAI Probleme mit seinen Geheimhaltungsvereinbarungen vor, darunter Vorschriften, die die Zustimmung von Mitarbeitern erfordern, um mit Aufsichtsbehörden zu kommunizieren. Dies wirft Fragen nach möglichen Einschränkungen der Mitarbeiterrechte und potenziellen Verstößen bei OpenAI auf. Als Entwickler von ChatGPT und wichtiger Akteur im Bereich der künstlichen Intelligenz steht OpenAI unter der Lupe der US-amerikanischen Börsenaufsichtsbehörde SEC. In einer E-Mail werden systematische Verstöße bei OpenAI angeprangert, wobei behauptet wird, dass Arbeitsverträge, Abwicklungsvereinbarungen und Geheimhaltungsvereinbarungen gegen SEC-Vorschriften verstoßen und Mitarbeitern Rechte entziehen.
