Das amerikanische KI-Forschungsunternehmen OpenAI entwickelt derzeit ein Frühwarnsystem für GPT-4, um zu untersuchen, ob große Sprachmodelle die Beschaffung von Informationen zu biologischen Bedrohungen im Vergleich zum Internet effizienter gestalten können. Dieses System soll als „Auslöser“ dienen, der auf die potenzielle Existenz biologischer Waffen hinweist und weitere Untersuchungen erfordert. Es wird in den Präventionsrahmen von OpenAI integriert.
In einer entsprechenden Studie gaben 100 Teilnehmer an, dass die Kombination von GPT-4 und Internet zu einer geringfügigen, aber nicht signifikanten Verbesserung der Genauigkeit und Vollständigkeit bei Aufgaben im Zusammenhang mit biologischen Gefahren führte. Die Studie hebt die Einschränkung hervor, dass nur die Informationsbeschaffung und nicht die praktische Anwendung bewertet wurde. Die potenzielle Rolle von GPT-4 bei der Entwicklung neuer biologischer Waffen wurde nicht untersucht.
Gleichzeitig kündigte OpenAI die Veröffentlichung mehrerer neuer Modelle an, um mehr Anwendungsoptionen zu bieten.
