Open AI hat das neue Programm Sora vorgestellt, das mit Künstlicher Intelligenz Textbefehle in Videos umwandelt, und demonstriert damit zweierlei: Das Unternehmen bleibt in der KI-Revolution an vorderster Front, auch wenn Technologiegiganten wie Google und Meta gewaltige Ressourcen auf dem Gebiet mobilisieren. Und es liefert mit Sora einen weiteren Beleg, wie rasant die Entwicklung von KI-Systemen voranschreitet.

Es ist noch keine eineinhalb Jahre her, dass ChatGPT herauskam, das KI-System von Open AI, das auf diverse Anfragen Antworten in Textform gibt. Nun ist das Unternehmen auch in der Lage, mit Sora auf Kommando erstaunlich realitätsnahe Videos zu liefern.

Das ist faszinierend, aber auch beängstigend, denn es gibt offensichtliche Kehrseiten. Sehr schnell ist zum Beispiel deutlich geworden, warum beim Streik der Hollywood-Schauspieler im vergangenen Jahr die Sorge, von KI-Systemen ersetzt zu werden, eine Rolle spielte. Die womöglich größte und in einem Jahr mit wichtigen Wahlen auch sehr akute Gefahr ist der Missbrauch für Desinformation. Es mehren sich die Beispiele von Deepfakes, also gefälschten Bildern oder Videos, bei denen KI im Spiel war. Je ausgefeilter die KI-Technologien werden, umso leichter wird es, überzeugende Deepfakes in großer Zahl zu produzieren. Und wenn die Grenzen zwischen Realität und Fälschung immer mehr verschwimmen, wird es auch immer leichter, authentische Inhalte als Deepfake abzukanzeln, wenn es opportun erscheint.

Mehr zum Thema

Facebook, Instagram, Threads : Mit dieser Software will Meta die Deepfake-Flut bekämpfen

Deepfakes : Wenn Lügen viral gehen

KI-Modell Sora : Open AI stellt System vor, das aus Texten Videos macht

Die Technologieunternehmen sind sich dieser Gefahren wohl bewusst. Sie haben noch in frischer Erinnerung, wie Onlineplattformen zum Beispiel rund um die US-Präsidentenwahlen 2016 vorgeworfen wurde, zu wenig gegen politische motivierte Manipulationen getan zu haben. Viele von ihnen, darunter Open AI und Meta, haben in den vergangenen Wochen Initiativen angekündigt, um Missbrauch zu verhindern, und sie haben freiwillige Selbstverpflichtungen abgegeben.

Freilich ist es nicht leicht, Patentrezepte zu finden. Digitale Wasserzeichen zum Beispiel, die KI-Inhalte kennzeichnen, können auch umgangen werden. Regulierung muss hier eine große Rolle spielen, aber gerade in den USA stehen entsprechende Bemühungen noch am Anfang. Die Welt ist noch nicht vorbereitet auf die Möglichkeiten, die KI eröffnen wird.