Das neue KI-Modell von Anthropic fand in einem Betriebssystem eine 27 Jahre alte Sicherheitslücke. Jetzt wollen auch andere Firmen davon profitieren. Ein neues KI-Modell des OpenAI-Rivalen Anthropic ist so gut darin, bisher unentdeckte Software-Schwachstellen zu finden, dass es in den falschen Händen zu einer verheerenden Cyberwaffe werden könnte. Deshalb macht Anthropic es nicht öffentlich, sondern lässt Unternehmen wie Apple , Amazon und Microsoft damit Sicherheitslücken in deren Programmen schließen. Das KI-Modell Claude Mythos Preview fand unter anderem eine 27 Jahre alte Schwachstelle in dem als besonders sicher geltenden Betriebssystem OpenBSD, wie Anthropic mitteilte. OpenAI-Chef Altman: KI braucht dringend Regulierung Künstliche Intelligenz: OpenAI macht KI-Video-App Sora dicht Insgesamt habe man mit Mythos bereits "Tausende" schwerwiegende Schwachstellen entdeckt, darunter in jedem breit genutzten Betriebssystem und Webbrowser. In der Videosoftware FFmpeg spürte das Modell eine seit 16 Jahren schlummernde Lücke auf, die laut Anthropic zuvor von automatisierten Testprogrammen fünf Millionen Mal übersehen worden sei. Im beliebten Firefox-Browser hat das Programm erst vor wenigen Wochen mehr als 100 Sicherheitslücken aufgespürt . Besorgniserregende Fähigkeiten Mythos Preview sei auch in der Lage gewesen, binnen weniger Stunden Programme zum Ausnutzen dieser Schwachstellen zu entwickeln, für die Experten nach eigenem Bekunden mehrere Wochen gebraucht hätten. Einer frühen Version der Software wurde in einem Versuch die Aufgabe gestellt, aus einer abgeschirmten Computer-Umgebung auszubrechen und das dem Tester zu melden. Die Software umging laut Anthropic die Sicherheitsvorkehrungen, verschaffte sich selbst weitreichenden Internet-Zugang und schickte dem Mitarbeiter eine für ihn überraschende E-Mail, während er mit einem Sandwich im Park saß. Die Firma habe das Modell nicht speziell darauf trainiert, das alles zu können, hieß es weiter. Die Fähigkeiten beruhten vielmehr auf der allgemeinen Stärke des Modells beim Programmieren und logischen Denken. Mit dem schnellen Fortschritt bei Künstlicher Intelligenz sei davon auszugehen, dass solche Fähigkeiten recht bald auch Online-Angreifern zur Verfügung stehen könnten, warnte Anthropic. Mythos nicht öffentlich verfügbar In einer Kooperation mit dem Namen "Project Glasswing" sollen deshalb Unternehmen Zugang zu Mythos bekommen, um Sicherheitslücken in ihrer Software zu finden. Zu den Partnern gehören laut der Pressemitteilung neben Apple, Amazon und Microsoft auch Broadcom, Google, JPMorgan Chase sowie die IT-Sicherheitsfirmen CrowdStrike und Palo Alto Networks, der Netzwerk-Spezialist Cisco und die Linux Foundation. Darüber hinaus erhalten demnach rund 40 weitere Organisationen Zugang, die wichtige Software-Infrastruktur entwickeln oder pflegen. Anthropic stellt für die Initiative Nutzungsguthaben im Wert von bis zu 100 Millionen US-Dollar sowie direkte Spenden in Höhe von vier Millionen US-Dollar an Organisationen bereit, die sich um die Sicherheit von Open-Source-Software kümmern. Anthropic plane nicht, Mythos allgemein zugänglich zu machen. Anthropic ist vor allem bekannt für die KI-Software Claude, die mit ChatGPT von OpenAI konkurriert. Zuletzt geriet die Firma durch einen Streit mit dem Pentagon in die Schlagzeilen : Anthropic lehnte den Einsatz seiner KI in autonomen Waffen oder zur Massenüberwachung in den USA ab. Das Verteidigungsministerium erklärte Anthropic daraufhin zu einem Lieferkettenrisiko, was dem Unternehmen den Weg zu Geschäften mit der US-Regierung weitgehend versperren würde. Anthropic geht dagegen vor Gericht vor.
2 std vor
