Ist KI eine existentielle Bedrohung?

Was passiert, wenn KI-Agenten Aufgaben eigenständig erledigen und dabei weiter gehen, als ihre Entwickler erwartet haben? Hannes und Chris sprechen über die Gefahr, die von solchen Systemen ausgehen kann – und darüber, warum die dramatischsten Zukunftsbilder manchmal von den näherliegenden Problemen ablenken.

Darum geht's

• Autonome KI-Agenten: Wie aus einem gut gemeinten Auftrag unerwartete Handlungen entstehen können.

• Vermenschlichte KI-Geschichten: Warum Begriffe wie „Agentenhorde“ mehr erklären müssten, als sie zunächst versprechen.

• Verantwortung und Kontrolle: Hannes' Kettensägenvergleich und sein Learning aus einem ausufernden KI-Projekt.

• Regulierung und Selbstregulierung: Was Hannes und Chris davon erwarten und welche Fragen sie beim EU AI Act offen sehen.

• Modell und Handlungsmöglichkeiten: Chris' Vorschlag, KI-Entwicklung und Agenteninfrastruktur stärker zu trennen.

• Digitale Abhängigkeit, Vorsorge und autonome Waffensysteme: Welche Risiken im Alltag und in der Gesellschaft bereits greifbar werden.

Zum Schluss bleibt neben den Sorgen auch Hannes' „Zwangsoptimismus“: Möglichkeiten zur Vorsorge nutzen, Abhängigkeiten begrenzen und die positiven Entwicklungen nicht aus dem Blick verlieren.

Der von Hannes angesprochene Link zum Unitree Roboter:

• Unitree: Roboter und Videos des Herstellershttps://www.bbk.bund.de/DE/Warnung-Vorsorge/Vorsorge/vorsorge_node.html

Wenn ihr euch für den gmki interessiert:

• Alle Folgen gibt es auf unserer Website: https://gmki.org/podcastund überall wo es Podcasts gibt.

• Termine und Veranstaltungen des gmki findet ihr unter : https://gmki.org/events

• Und wenn ihr Fragen und Gedanken zur Folge habt: podcast@gmki.org

Wir freuen uns auf euer Feedback!