Meta-KI-Wissenschaftler kritisiert Übertreibung der Bedrohungen durch Branchenführer und deren Lobbyarbeit für Regulierung

站长之家

Veröffentlicht amKI-Nachrichten und -Informationen · 2 Minuten Lesezeit · Oct 31, 2023

Meta's Chef-KI-Wissenschaftler Yann LeCun kritisierte kürzlich in den sozialen Medien die CEOs von OpenAI, Google DeepMind und Anthropic, weil sie die Bedrohung von künstlicher Intelligenz für die Menschheit übertrieben und damit eine Regulierung des Bereichs anstreben. LeCun prangerte auch die führenden Köpfe der Branche, Geoffrey Hinton und Yoshua Bengio, an, da sie die Angst vor KI schürten. LeCun plädiert für Open-Source-KI-Technologie, um zu verhindern, dass sie von wenigen Institutionen kontrolliert wird. In der Branche wird heftig über die Fragen der Open-Source-KI und der Regulierung debattiert. Die britische Regierung bereitet sich auf den ersten globalen KI-Gipfel vor, auf dem diese Kontroversen voraussichtlich aufeinanderprallen werden.

Veröffentlichung der Selbstregulierungsinitiative für generative KI: Einführung neuer Standards für Sicherheit und Compliance in der Branche

Die „Selbstregulierungsinitiative für die generative KI-Branche“ wurde auf dem Kongress für Netz-Zivilisation 2024 in Chengdu veröffentlicht und von der Fachkommission für KI-Sicherheitsgovernance des Chinesischen Verbandes für Cybersicherheit zusammen mit Branchen-, akademischen und Forschungseinrichtungen initiiert. Die Initiative konzentriert sich auf fünf Kerninhalte: Sicherheit und Compliance von Daten und Algorithmusmodellen, um die legale Nutzung und Sicherheit von Daten zu gewährleisten; Aufbau eines gesunden Inhaltsökosystems, um die Generierung positiver Inhalte zu fördern und ein gesundes Online-Umfeld zu erhalten; technologische Innovation und Qualitätsverbesserung, um den technischen Fortschritt und die Qualitätsbewertung voranzutreiben; ethische Standards, um die Menschenrechte und gesellschaftlichen Werte zu respektieren; Austausch und Zusammenarbeit.

Musk unterstützt kalifornisches SB1047-Gesetz und betont die Bedeutung der KI-Sicherheitsregulierung

Elon Musk unterstützt öffentlich das kalifornische SB1047-Gesetz, das große KI-Modellhersteller zur Entwicklung von Schutzmaßnahmen gegen potenzielle Gefahren verpflichtet. Das Gesetz schreibt die Dokumentation von Strategien zur Verhinderung schwerwiegender Schäden durch KI vor. Musks Betonung der Notwendigkeit einer KI-Regulierung steht im Einklang mit seinen früheren Bedenken hinsichtlich der Risiken von KI. Seine KI-Firma xAI wird dem SB1047-Gesetz unterliegen. Im Gegensatz dazu lehnt OpenAI das SB1047-Gesetz ab und unterstützt eine alternative Lösung. Dieses Ereignis unterstreicht die Komplexität und Kontroverse der KI-Regulierung in der Branche.

Rechtliche Auseinandersetzung: Genießen KI-Outputs den Schutz der Meinungsfreiheit?

Einige Rechtsexperten argumentieren, dass KI-Outputs durch den Ersten Verfassungszusatz geschützt sein sollten. Rechtsexperte Peter Salib warnt jedoch vor den potenziell schwerwiegenden Folgen dieser Ansicht. Die Regulierung von KI-Outputs gestaltet sich schwierig und birgt potenzielle Gefahren. Salib plädiert für eine Regulierung der KI-Outputs selbst, um Risiken zu vermeiden.

NSA gründet neues Zentrum für KI-Sicherheit – Fokus auf Regulierung von KI-Systemen

Die US-amerikanische National Security Agency (NSA) hat ein Zentrum für KI-Sicherheit gegründet, um die sichere Entwicklung von künstlicher Intelligenz zu überwachen. Das Zentrum, das vom Cybersecurity Center geleitet wird, soll die globale Zusammenarbeit bei der Entwicklung von Sicherheitsmaßnahmen für KI-Technologien fördern. Der Leiter des Zentrums erklärte, dass die KI-Sicherheit darauf ausgerichtet ist, KI-Systeme vor Angriffen, Datenlecks und Schäden zu schützen. Die US-Regierung legt großen Wert auf die Regulierung von KI-Technologien und hat eine spezielle Einrichtung zur Sicherstellung der sicheren Entwicklung von KI-Systemen geschaffen.