MIND.ai Update #37: Autonome Agenten, offene Flanken, lernende Roboter
Anthropic schickt mit Claude Duet einen Agenten in die Cloud, der weiterarbeitet, wenn Sie den Rechner längst ausgeschaltet haben. Eine OpenAI-KI findet zwei gefährliche Lücken in PHP und zeigt zugleich, wie schnell Angreifer nachziehen. Und in Berlin lässt Nvidia kleine Roboter über die Bühne laufen, die das Gehen nur im Computer gelernt haben. Die KI hört auf zu reden und beginnt zu handeln. Was das für Ihre Arbeit und Ihre Sicherheit bedeutet, lesen Sie hier.
Claude Duet und die neue Ära autonomer Agenten
Die Entwicklung der künstlichen Intelligenz macht einen strukturellen Sprung: Der Schwerpunkt der Innovation verschiebt sich von der Eloquenz der Antworten hin zur Fähigkeit, Aufgaben dauerhaft auszuführen. Mit Claude Duet steigt Anthropic direkt in den Wettbewerb um persistente autonome Agenten ein, in dem bereits Dots von OpenAI, Muse von Meta und Grok Bot mitspielen. Der Kerngedanke ist klar: Der Assistent ist kein reaktives Chatfenster mehr, sondern ein aktiver Mitarbeiter in der Cloud. Er bekommt ein Ziel, organisiert die Arbeit und erledigt die nötigen Schritte, auch wenn niemand dabei ist.
Technisch läuft Claude Duet auf einem virtuellen Computer in der Cloud. Der Agent greift auf die Fähigkeiten, das Langzeitgedächtnis und die Softwareverbindungen zurück, die dem Nutzerkonto bereits zugeordnet sind. Bildschirm und Rechner müssen nicht eingeschaltet bleiben. Der Agent prüft selbstständig in regelmäßigen Abständen das E-Mail-Postfach, kontrolliert Termine im Kalender, sortiert Informationen und bereitet Briefings für den Arbeitsalltag vor.
Dazu kommt ein proaktives Verhalten: Der Agent meldet sich von sich aus, noch bevor eine konkrete Anfrage vorliegt. Er weist auf anstehende Fristen, Vertragsverlängerungen oder dringende Entscheidungen hin und zeigt integrierte Dashboards. Der erste Test ist auf die USA beschränkt, es gibt eine Warteliste für die kostenpflichtigen Pläne Pro und Max. Die Technologie ist ausdrücklich für Fachleute und komplexe Arbeitsumgebungen gedacht.
Das zentrale Thema bei dauerhafter Autonomie sind Sicherheit und Verantwortung. Anthropic hat eine klare, nicht verhandelbare Grenze gezogen zwischen dem, was der Agent vorbereiten darf, und dem, was er in der realen Welt tun darf. Bevor er Nachrichten verschickt, Einkäufe tätigt, Verträge unterzeichnet oder Datensätze löscht, muss Claude Duet die geplante Aktion erläutern und auf die Freigabe des Nutzers warten. Kritische Finanzgeschäfte wie direkte Geldüberweisungen oder der Handel mit Wertpapieren bleiben grundsätzlich außerhalb des Handlungsspielraums.
Dieser Ansatz schützt vor versehentlichen Ausführungen und vor der Manipulation von Daten über Schwachstellen wie Prompt Injection. Jede Interaktion mit der Außenwelt soll durch überprüfbare Protokolle und minimale Berechtigungen geregelt sein.
Websicherheit im KI-Zeitalter: Der Fall der kritischen PHP-Lücken
Künstliche Intelligenz verändert die IT-Sicherheit von Grund auf. Sie beschleunigt die Werkzeuge der Verteidiger ebenso wie die Waffen der Angreifer. Ein aktuelles Beispiel liefert ein fortgeschrittenes Modell von OpenAI mit dem Namen GPT-5.6 Soul: Es hat in den vergangenen Wochen zwei schwere Sicherheitslücken im Quellcode von PHP aufgespürt, die anschließend geschlossen wurden. Zur Einordnung ohne Fachjargon: PHP ist der unsichtbare Motor von rund 70 Prozent aller Websites weltweit, darunter Schwergewichte wie Wikipedia und WordPress.
Weil die Lücken entdeckt wurden, bevor Kriminelle sie nutzen konnten, haben Entwickler rasch ein Korrekturupdate bereitgestellt, einen sogenannten Sicherheits-Patch. Millionen Server waren geschützt, bevor ein massenhafter Missbrauch möglich wurde. Der Fall zeigt aber auch ein Paradox unserer Zeit. Experten können mit KI riesige Datenmengen in wenigen Stunden nach Fehlern durchforsten, die jahrzehntelang unbemerkt blieben. Gleichzeitig schrumpft die Zeit, um sich abzusichern. Sobald eine Lösung öffentlich ist, können Angreifer dieselbe algorithmische Rechenleistung nutzen, den korrigierten Code studieren, die Schwachstelle exakt lokalisieren und automatisierte Angriffe auf alle Portale starten, die das Update noch nicht installiert haben. Viele Unternehmen brauchen Tage oder Wochen, um eine Korrektur einzuspielen. Die Bedrohung bewegt sich längst in Echtzeit.
Verschärft wird die Lage durch sinkende Kosten für Einbrüche. Aktuelle Studien belegen, dass Einzelne sich inzwischen auf autonome KI-Agenten stützen können: Programme, die viele Stunden am Stück allein in der Cloud arbeiten und dafür nur wenige Rechenkredite verbrauchen. Diese Systeme ermüden nicht, analysieren Hunderte oder Tausende Websites gleichzeitig und suchen ununterbrochen nach vergessenen Hintertüren, offenen Zugangsdaten, Nebenportalen für den Support und veralteter Software. Was sich früher für ein menschliches Hackerteam weder zeitlich noch finanziell gelohnt hätte, rechnet sich für Angreifer heute. Damit wächst die Angriffsfläche jedes Unternehmens und jeder Behörde enorm.
Die wichtigste Lehre: Es hat keinen Sinn mehr, darauf zu hoffen, unentdeckt zu bleiben, oder pauschal die leistungsstärksten Modelle zu sperren. Zeitgemäße Sicherheit braucht solide, konsequent gelebte Routinen. Dazu gehört, genau zu wissen, welche Dienste mit dem Internet verbunden sind, alte, verwaiste Anwendungen abzuschalten, Zugriffsrechte auf das Nötigste zu beschränken und vor allem Sicherheitsupdates sofort einzuspielen, sobald sie verfügbar sind. Wenn Verteidigung und Angriff mit Maschinengeschwindigkeit laufen, besteht Widerstandsfähigkeit darin, klare Regeln zu befolgen und die Zeit zwischen Entdeckung einer Schwachstelle und ihrer Behebung so kurz wie möglich zu halten.
Nvidia in Berlin: Rechen-Ökosystem, Simulationsinfrastruktur und neue Roboter
In Berlin war zu sehen, wie die künstliche Intelligenz den Bildschirm verlässt und in den physischen Raum tritt. Im Mittelpunkt standen vier kleine, zweibeinige Versuchsroboter: kompakte Prototypen, gerade einmal 25 Zentimeter groß und gestaltet wie technische Entchen. Auf den ersten Blick wirken sie wie interaktive Spielereien. Unter der Hülle steckt jedoch eine der fortschrittlichsten Bewegungstechnologien der Branche. Sie soll die Grenzen der klassischen Robotik überwinden, indem sie künstliche Intelligenz, numerische Simulation und Präzisionssensorik verbindet.
Jeder Prototyp hat fünfzehn kleine, motorisierte Gelenke in Beinen und Rumpf, die fließende, dynamische Bewegungen erlauben. Zur Wahrnehmung dienen eine hochauflösende Frontkamera, ein Tiefensensor, der Abstände zu Hindernissen misst, und zwei Inertialsensoren mit Gyroskopen und Beschleunigungsmessern, die ständig die Körperlage überwachen. Auf der Bühne zeigten die vier Geräte erstaunliche Wendigkeit. Sie laufen zügig, halten auf unebenem Boden die Spur und schlagen sogar Purzelbäume. Am meisten beeindruckt die Fähigkeit, sich zu erholen: Werden die Roboter angestoßen oder aus dem Gleichgewicht gebracht und stürzen, stehen sie innerhalb weniger Augenblicke von selbst wieder auf. Sie brauchen keine fremde Hilfe und stützen sich nicht einmal auf die Arme. Allein mit einer koordinierten Abfolge von Beinbewegungen richten sie sich auf.
Der eigentliche Bruch mit der Vergangenheit liegt darin, wie die Prototypen das Laufen gelernt haben. In der konventionellen Robotik kostet jeder Schritt, jede Kurve und jede Reaktion auf einen Stoß die Ingenieure Monate manueller Programmierung, mit starren mathematischen Formeln für jedes einzelne Gelenk. Hier wurden die Bewegungsabläufe dagegen vollständig in einer Simulationsumgebung erlernt. Bevor die Roboter den echten Boden berührten, schickte man digitale Zwillinge von ihnen in eine virtuelle Welt, wo sie in beschleunigtem Tempo Millionen von Gehversuchen absolvierten. In dieser synthetischen Welt, in der digitale Gesetze Reibung, Gewicht und Schwerkraft nachbilden, versuchten sich die virtuellen Modelle am Laufen, stürzten unzählige Male und korrigierten ihre Fehler selbstständig. Dahinter stehen Algorithmen des bestärkenden Lernens (Reinforcement Learning), gesteuert von intelligenten Agenten.
Sobald die Steuerung in der Simulation optimal funktionierte, wurde das Paket neuronaler Anweisungen direkt auf die Chips an Bord der echten Mini-Roboter geladen. Die Sensoren erfassen die Neigung des Körpers mehrmals pro Sekunde, und die Motoren gleichen jedes Schwanken sofort aus, noch bevor es zum Sturz wird.
Das Experiment zeigt, dass es beim Entwickeln künftiger Maschinen eine entscheidende Abkürzung gibt. Man muss nicht mehr Dutzende teurer Prototypen bauen und in der Werkstatt bei den ersten Tests zu Bruch fahren. Mit künstlicher Intelligenz lässt sich das Verhalten der Roboter im Rechner in wenigen Wochen trainieren und verfeinern. In die reale Welt kommen so Geräte, die sich bereits bewegen, mit ihrer Umgebung interagieren und ihre Aktionen selbst korrigieren können.
