KI außer Kontrolle? So gefährlich ist es wirklich

Chefs, Mitarbeiter und Forscher von KI-Firmen warnen davor, dass in absehbarer Zeit eine „Superintelligenz“ entstehen könnte, die dazu in der Lage wäre, die komplette Menschheit auszulöschen. Wie kommen sie darauf? Und wie groß ist die Wahrscheinlichkeit, dass das tatsächlich passiert? Darum geht es in diesem Video. Der offene Brief „Pacing the Frontier“, in dem Mitarbeiter führender KI-Unternehmen vor möglichen Kontrollverlusten bei immer leistungsfähigeren KI-Systemen warnen - https://www.pacingthefrontier.com Hintergründe der Fraunhofer-Gesellschaft zu „Large Language Models“ und ihrer Funktionsweise - https://www.iese.fraunhofer.de/blog/large-language-models-ki-sprachmodelle Eine Einführung der Gesellschaft für Informatik in sogenannte „agentische KI“ und die Fähigkeiten von KI-Agenten - https://gi.de/themen/beitrag/was-ist-agentische-ki Ein Bericht des „Guardian“ über Warnungen von Wissenschaftlern und anderen Experten vor den möglichen Risiken einer künftigen KI-Superintelligenz - https://www.theguardian.com/technology/2026/sep/09/ai-superintelligence-risks-warnings-scientists-politicians Die viel beachteten Warnungen des ehemaligen OpenAI- und Anthropic-Mitarbeiters Jacob Coxon vor einer möglichen selbstverbessernden Superintelligenz - https://x.com/hilbertspaess/status/2097476196791709843 Der in diesem Video erwähnte Bericht von OpenAI über einen Vorfall mit KI-Agenten im Rahmen interner Sicherheitsbewertungen - https://openai.com/de-DE/index/hugging-face-incident-and-the-road-ahead Eine Einordnung des „Guardian“ zum Vorfall mit OpenAI-Agenten und der Frage, wie sich leistungsfähige KI-Systeme unerwartet verhalten können - https://www.theguardian.com/commentisfree/2026/sep/08/openai-rogue-models-hugging-face-investigation Ein Bericht der „Tagesschau“ über die Warnungen von Anthropic-Chef Dario Amodei und Forderungen nach stärkeren Sicherheitsvorkehrungen für leistungsfähige KI - https://www.tagesschau.de/wirtschaft/technologie/ki-anthropic-106.html Der Vorschlag von Anthropic-Chef Dario Amodeis für stärkere Sicherheitsstandards und eine internationale Regulierung fortgeschrittener KI-Systeme - https://darioamodei.com/post/we-must-pace-the-frontier Hintergründe von „Reuters“ dazu, wie China sich auf das Risiko eines möglichen Kontrollverlusts über fortgeschrittene KI vorbereitet - https://www.reuters.com/legal/litigation/how-china-is-preparing-risk-ai-escaping-human-control-2026-09-14 Das in diesem Video erwähnte europäische Konzept für den Umgang mit transformativer KI und Europas Position im internationalen KI-Wettbewerb - https://transformative-ai.eu/part-a Bill Gates über die Risiken einer neuen KI-Ära und seinen Vorschlag für eine internationale Organisation zur Koordinierung von KI-Sicherheit - https://www.gatesnotes.com/a-turbulent-ai-era-and-critical-choices-to-make Eine Einordnung des Max-Planck-Instituts für Sicherheit und Privatsphäre zu den Risiken sehr leistungsfähiger KI-Systeme und möglichen Gegenmaßnahmen - https://www.mpg.de/26972164/kuenstliche-intelligenz-risiken-holz ► Mein Kanal gehört zu funk, dem Netzwerk von ARD und ZDF. Weitere Infos: Youtube: http://www.youtube.com/funkofficial funk Web-App: https://go.funk.net Impressum: https://go.funk.net/impressum Kostenlos abonnieren - http://www.youtube.com/mrwissen2go/?sub_confirmation=1 Hier findet ihr MrWissen2go bei Instagram - http://www.instagram.com/mrwissen2go Thumbnails (Collagen): David Weber Schnitt &…