Anthropic schlägt vor, dass die weltweit führenden Unternehmen für künstliche Intelligenz einen koordinierten Weg finden, um die Entwicklung fortschrittlicher KI-Systeme anzuhalten, und warnt davor, dass sich die Technologie so schnell verbessert, dass die Gefahr besteht, dass Menschen die Kontrolle verlieren.
Das Unternehmen hinter dem Claude-Chatbot sagte am Donnerstag in einem Blogbeitrag, dass es angesichts der zunehmenden Geschwindigkeit moderner KI bei der Ausführung von Aufgaben „gut für die Welt wäre, die Möglichkeit zu haben, ihre Entwicklung zu verlangsamen oder vorübergehend anzuhalten“.
Anthropic sagte, sein internes Forschungsinstitut plane, das Problem in Zusammenarbeit mit anderen zu untersuchen und „Maßnahmen zu ergreifen“, um die Systeme für eine glaubwürdige Verlangsamung oder Pause aufzubauen, ohne näher zu werden.
Der anthropische Rivale OpenAI plädierte in einem am Mittwoch veröffentlichten Bericht für einen anderen Ansatz und sagte, dass „demokratische Regierungen – nicht allein handelnde Privatunternehmen – letztendlich die Regeln, Schutzmaßnahmen und Rechenschaftsmechanismen festlegen müssen“.
„Wir sind der Ansicht, dass Entscheidungen über das Tempo der KI-Innovation nicht einem Labor, einem Unternehmen oder einer speziellen Interessengruppe überlassen werden sollten“, hieß es.
KI-Modelle werden immer schneller und die Geschwindigkeit, mit der sie Softwareaufgaben wie das Codieren selbstständig ausführen können, nimmt rapide zu, so Anthropic in seinem Beitrag. Basierend auf aktuellen Trends und bei ausreichender Rechenleistung könnte ein KI-System in der Lage sein, seinen eigenen Nachfolger zu entwerfen und zu entwickeln, was als „rekursive Selbstverbesserung“ bezeichnet wird.
Sich selbst aufbauende KI wäre ein wichtiger technologischer Meilenstein, der der Wissenschaft, dem Gesundheitswesen und anderen Bereichen Vorteile bringen würde, sagte Anthropic, aber sie „könnte auch das Risiko erhöhen, dass Menschen die Kontrolle über KI-Systeme verlieren“.
Einige Vertreter der Technologiebranche warnen seit langem vor einem solchen Szenario.
Der Beitrag von Anthropic folgt auf eine andere Warnung in dieser Woche von einem Forscherteam der University of Toronto, das zeigte, wie KI-Tools verwendet werden könnten, um eine neue Art von KI-„Wurm“ zu erschaffen, der seine Hacking-Strategie anpasst, während er sich von Gerät zu Gerät ausbreitet und ein riesiges Computernetzwerk übernimmt.
„Ich denke, es ist wirklich wichtig, dass die Leute verstehen, dass es nicht nur die größten und leistungsstärksten Sprachmodelle sind, die Sicherheitsbedenken aufwerfen“, sagte der leitende Forscher Nicolas Papernot in einem Interview.
Die Autoren des Anthropic-Beitrags, Firmenmitbegründer Jack Clark und Marina Favaro, Leiterin des Forschungsinstituts, sagten, die Pause werde genutzt, um „Gesellschaftsstrukturen und Ausrichtungsforschung“ zu ermöglichen, mit den KI-Fortschritten Schritt zu halten. „Alignment“ ist eine Branchenkurzformel für die Sicherstellung, dass die Technologie mit menschlichen Werten und Absichten übereinstimmt.
Die vorgeschlagene Koordinierung würde es fortgeschrittenen KI-Laboren ermöglichen, zu überprüfen, ob globale Konkurrenten ihre Arbeit tatsächlich eingestellt oder verlangsamt haben, „und dass ein schlechter Akteur die Schirmherrschaft einer koordinierten Verlangsamung nicht nutzen könnte, um heimlich voranzukommen“.
Das Unternehmen sagte, dass ein koordinierter globaler Mechanismus erforderlich sei, da eine Verlangsamung der KI-Entwicklung andernfalls dazu führen könnte, dass die „am wenigsten vorsichtigen“ Akteure aufholen und den Druck auf Unternehmen und Regierungen erhöhen könnten, wenn sie schwierige Entscheidungen zur KI-Sicherheit treffen.
Die Befürchtungen, dass fortschrittliche KI-Systeme der menschlichen Kontrolle entgehen und gesellschaftlichen Schaden anrichten könnten, nehmen zu, da die Technologie immer leistungsfähiger wird. Anthropics eigenes Mythos-Modell sorgte Anfang des Jahres mit seiner Fähigkeit, Schwachstellen in bestehendem Code zu finden, für Aufsehen in Branchen, darunter Banken und Software.
Doch die Regulierung verlief langsam, insbesondere in den USA, wo die meisten führenden KI-Labore ihren Sitz haben. Eine Anordnung der Trump-Administration Anfang dieser Woche legte den Labors selbst die Verantwortung auf und forderte sie auf, ihre leistungsfähigsten Modelle vor der Veröffentlichung freiwillig für staatliche Cybersicherheitstests einzureichen.
Sicherheitsfokus
Auch KI-Forscher forderten schon früher eine Pause, hatten damit aber wenig Erfolg. Elon Musk, dem das KI-Labor xAI gehört, gehörte zu den Unterstützern einer Initiative des gemeinnützigen Future of Life Institute im Jahr 2023, die KI-Entwicklung für sechs Monate zu stoppen, um Zeit für Sicherheitsmaßnahmen zu schaffen.
Anthropic hat sich seit langem als sicherheitsorientiertes KI-Labor positioniert. Anfang dieses Jahres weigerte es sich, dem US-Militär seine Modelle zur inländischen Überwachung und für völlig autonome Waffen zu nutzen, was zu Gegenreaktionen seitens der Regierung führte, die es auf eine schwarze Liste der nationalen Sicherheit setzte, die später im Jahr 2026 in Kraft treten soll.
Der Beitrag von Anthropic erfolgt zu einem Zeitpunkt, zu dem das Unternehmen und der ChatGPT-Hersteller OpenAI darum kämpfen, Aktien an der Börse zu verkaufen, im Rahmen eines Börsengangs, der Anthropic einen Wert von fast einer Billion Dollar bescheren könnte.
Papernot benachrichtigte die kanadischen Cybersicherheitsbehörden vor der Veröffentlichung seines Berichts, der zeigt, wie Forscher den Wurm in einem Labor entwickelten, indem sie ein „Open-Source“-KI-Tool verwendeten, auf das Softwareentwickler leicht zugreifen und das sie kostengünstig modifizieren können.
„In der Vergangenheit konzentrierten sich Cyber-Angreifer auf Ziele mit sehr hohem Wert“, sagte er. „Bankensysteme, Krankenhäuser, Stromnetze, Wasseraufbereitungssysteme, Schulen.“
Papernot stimmte zu, dass es eine stärkere Zusammenarbeit zwischen Unternehmen, Regierungsbehörden und akademischen Forschern geben sollte, um Gegenmaßnahmen zu entwickeln, da KI-gestützte Hacking-Tools die Suche nach Computerschwachstellen vorantreiben.
„Der alte Laptop, den Sie in Ihrem Keller haben und den Sie nicht regelmäßig überprüfen, scheint kein sehr wertvolles Ziel zu sein, aber er kann als Startrampe für den Angriff auf diese höherwertigen Ziele verwendet werden“, sagte er. „Alles, was mit dem Internet verbunden ist, ist jetzt gefährdet, da die Kosten für die Durchführung dieser Cyberangriffe mittlerweile so niedrig sind.“
