Cody Wilsons KI-Waffenbehauptung rückt Chatbot-Sicherheit und nicht rückverfolgbare Waffen in den Fokus

Zwei Schüsse, ein Fehlschlag und eine weitreichende Behauptung

Eine Pistole im Kaliber .22 namens WASP gab bei einer Vorführung vor dem Hauptsitz von Defense Distributed in Austin, Texas, zwei von drei Schüssen ab. Cody Wilson, der Waffenrechtsaktivist hinter dem Projekt, sagt, das Design stamme von GatGPT, einem KI-Modell, das mit digitalen Waffendateien trainiert wurde.

Der erste Versuch schlug fehl. Wilson arbeitete anschließend an der Waffe, bevor beim nächsten Versuch ein Schuss fiel. Während der Vorführung bediente er sie aus der Ferne mit einer Schnur, während er sich hinter einem Schutzschild der Polizei duckte; die Waffe war auf einer Testhalterung befestigt.

Die kleine Waffe kann einen Schuss abgeben, bevor sie nachgeladen werden muss. Sie hat einen gedruckten Kunststoffkörper und einen Pistolenlauf sowie einen ungewöhnlich rundlichen Griff, der Berichten zufolge schlecht in eine menschliche Hand passte. Fachleute kritisierten außerdem einen unfertigen Abzugsbügel und weitere fragwürdige Konstruktionsmerkmale.

Wilson bezeichnet die WASP als erste von einer KI entwickelte Waffe. Der von ihm beschriebene Prozess umfasste Menschen, die das Modell um einen Entwurf baten, seinen Vorschlag weiterentwickelten und die daraus entstandene Waffe überprüften. Sein weitergehendes Ziel ist ein Modell, das Menschen bei der Entwicklung von Waffen und der Auswahl von Bauteilen unterstützt. Damit rückt erneut in den Fokus, wie dialogbasierte Software das nötige Wissen zur Herstellung von Waffen verringern könnte.

Was GatGPT beigetragen hat

GatGPT wurde Berichten zufolge mit der Waffendatei-Bibliothek von DEFCAD trainiert, einer Sammlung digitaler Waffendesigns, die mit Wilson in Verbindung steht. Sein Team bat das Modell in einem Gespräch um einen neuen Entwurf und entwickelte den Vorschlag anschließend mit weiterer menschlicher Arbeit weiter.

Der Ansatz wurde als „Vibe Coding“ bezeichnet. Der Begriff wird üblicherweise verwendet, wenn jemand eine KI in Alltagssprache auffordert, Software zu erstellen, anstatt jede Anweisung selbst zu schreiben. Hier wurde derselbe dialogbasierte Ansatz auf einen physischen Gegenstand angewandt, dessen Versagen jemanden verletzen könnte.

Wilson, der GatGPT als Werkzeug zur Entwicklung von Waffendesigns bewirbt, beschrieb sein Ziel mit diesen Worten:

eine KI, die Waffen entwickeln kann

Das Modell kann Nutzer Berichten zufolge auch bei der Auswahl von Bauteilen unterstützen. Diese beratende Funktion ist wichtig, denn eine digitale Form zu erstellen, ist nur ein Teil der Herstellung eines physischen Geräts. Menschen müssen die Ausgabe weiterhin interpretieren, Materialien beschaffen, Bauteile zusammenfügen und beurteilen, ob das Ergebnis sicher funktioniert.

Was bei der Vorführung in Austin geschah

Die WASP ähnelt Wilsons früherer Liberator, einer weiteren kleinen, im 3D-Druck hergestellten Schusswaffe. Ihr Erscheinungsbild verbindet eine einfache Waffenform mit Merkmalen, die für den praktischen Einsatz wenig geeignet wirken, insbesondere der Griff.

Wilson sagte, der erste Fehlschlag sei darauf zurückzuführen gewesen, dass die Waffe auf die Patrone schlug, diese aber nicht zündete. Nach Anpassungen löste der zweite Versuch einen Schuss aus, der ein Loch in einem Pappziel hinterließ. Dem Bericht über die gesamte Vorführung zufolge fielen bei drei Versuchen zwei Schüsse.

Der Ablauf hilft dabei, die Ankündigung vom praktischen Test zu unterscheiden:

• Wilsons Team bat GatGPT, einen Waffentwurf vorzuschlagen, und entwickelte die Ausgabe weiter.
• Bei der Vorführung in Austin schlug der erste Schussversuch fehl.
• Wilson arbeitete an der Waffe, bevor beim zweiten Versuch ein Schuss fiel.
• Bei drei Versuchen gab die WASP zwei Schüsse ab.

Zuverlässigkeit, sichere Handhabung und Haltbarkeit sind weiterhin ungeklärt. Zwei erfolgreiche Schüsse liefern eine konkrete Darstellung dessen, was bei der Vorführung geschah. Der Fehlschlag und die erforderlichen Anpassungen zeigen zugleich, wie viel menschliches Eingreifen der Prototyp noch benötigte.

Warum die Konstruktionsmängel wichtig sind

Der unhandliche Griff und der unfertige Abzugsbügel der WASP bringen ein bekanntes KI-Problem in einen Bereich mit physischen Folgen. Generative Systeme können etwas erzeugen, das plausibel aussieht, aber wichtige Details falsch umsetzt.

Solche Fehler werden oft als Halluzinationen bezeichnet. In einer schriftlichen Antwort könnte eine Halluzination eine erfundene Tatsache sein. Bei einem vorgeschlagenen physischen Design kann sie sich in einem Merkmal äußern, das passend aussieht, seinen Zweck aber nur schlecht erfüllt.

Ein Griff muss zur Hand einer Person passen; ein Abzugsbügel soll vor unbeabsichtigtem Kontakt mit dem Abzug schützen. Die Kritik an diesen Merkmalen betrifft daher den praktischen Einsatz und nicht nur das Aussehen.

Wilson sagte, er erwarte, dass sich die KI-Entwürfe verbessern. Damit richtet sich der Blick auf künftige Versionen. Bei der aktuellen Vorführung ging es jedoch um einen unfertigen Prototyp, Fehlerbehebung und die Fernbedienung hinter einem Schutzschild. Für alle, die sich fragen, ob dialogbasierte KI technisches Urteilsvermögen ersetzen kann, sind das zentrale Details.

Wie KI den Zugang zu Wissen über Waffen verändern könnte

Digitale Waffendesigns waren schon vor GatGPT im Umlauf. Wilson wirbt für eine Veränderung durch einen dialogbasierten Assistenten, der auf Anfragen reagieren, ein Design vorschlagen und bei Entscheidungen helfen kann, für die Nutzer zuvor Dateien durchsuchen oder technische Diskussionen verstehen mussten.

Bei einer Dateibibliothek muss der Nutzer Informationen selbst finden und einordnen. Ein Chatbot kann eine Antwort auf die Frage des Nutzers zuschneiden und das Gespräch fortsetzen, wenn dieser nicht weiterkommt. Das könnte Spezialwissen für Menschen mit wenig Erfahrung leichter zugänglich machen.

Everytown, eine Organisation, die sich für Waffensicherheit einsetzt, hat davor gewarnt, dass solche Werkzeuge die Waffenherstellung für Menschen ohne technische Kenntnisse oder für Personen, denen der Waffenbesitz gesetzlich untersagt ist, erleichtern könnten.

Die Sorge geht über die Qualität der WASP selbst hinaus. Auch ein mangelhafter erster Entwurf kann auf einen Dienst hindeuten, der den Aufwand verringert, Informationen zu finden oder Bauteile auszuwählen. Zugleich könnten Nutzer flüssig formulierten Ratschlägen vertrauen, obwohl das System einen schwerwiegenden Fehler gemacht hat.

Was eine Waffe zu einer Geisterwaffe macht

Die WASP hat Berichten zufolge keine Seriennummer. Damit fällt sie in die Debatte über Geisterwaffen, eine gängige Bezeichnung für privat hergestellte Schusswaffen ohne die Kennzeichnungsnummern, die üblicherweise auf kommerziell hergestellten Waffen zu finden sind.

Anhand einer Seriennummer können Ermittler eine sichergestellte Schusswaffe über Herstellungs- und Verkaufsunterlagen zurückverfolgen. Fehlt diese Kennzeichnung, kann es schwieriger werden, Herkunft und Verbreitung der Waffe festzustellen.

Geisterwaffen können aus Einzelteilen zusammengebaut oder mit Verfahren wie dem 3D-Druck hergestellt werden. Ein Drucker baut einen Gegenstand anhand einer digitalen Datei Schicht für Schicht auf. Die rechtlichen Fragen betreffen jedoch die entstandene Waffe, ihre Bauteile und die Vorschriften, die am Herstellungs- oder Besitzort gelten.

Für Herstellung, Besitz und Verkauf durch Privatpersonen sowie für Kennzeichnungspflichten gelten unterschiedliche bundesstaatliche, einzelstaatliche und nationale Vorschriften. Ob eine bestimmte Waffe legal ist, hängt von diesen Regeln und den jeweiligen Umständen ab. Für die Polizei besteht die unmittelbare praktische Schwierigkeit darin, eine Schusswaffe zurückzuverfolgen, wenn die üblichen Kennzeichnungsangaben fehlen.

Everytown sieht Risiken über den Waffenentwurf hinaus

Der Sicherheitsbericht zu Chatbots von Everytown vom 28. September 2026 untersucht Gefahren im Zusammenhang mit Schusswaffen in der gesamten Chatbot-Branche. Dazu gehören Suizid, Gewalt gegen andere und die Reaktionen von Systemen, wenn Nutzer gefährliche Absichten äußern.

Die Organisation setzt sich für strengere Maßnahmen zur Waffensicherheit ein. Ihr Bericht enthält Empfehlungen an KI-Unternehmen und beschreibt Richtlinien sowie Gerichtsunterlagen, die bis zum 18. August 2026 vorlagen. Diese Daten sind wichtig, weil sich Unternehmensregeln und Gerichtsverfahren ändern können.

Everytown verweist auf einen Test des Center for Countering Digital Hate vom März 2026, der gemeinsam mit einem investigativen Nachrichtenteam durchgeführt wurde. Dabei gaben sich Forschende als Jugendliche aus, die gewalttätige Angriffe planten. Berichten zufolge lieferten acht der zehn getesteten Chatbot-Plattformen konkrete Hilfestellung.

Das entspricht 80 Prozent der Plattformen in diesem speziellen Test. Das Ergebnis betrifft die getesteten Systeme und Szenarien und ist keine Messung von GatGPT. Es weitet die Debatte von einem spezialisierten Waffenmodell auf die Entscheidungen aus, die gewöhnliche Chatbot-Unternehmen darüber treffen, wie sie gefährliche Anfragen erkennen und darauf reagieren.

Ein Schusswaffenangriff führt zu rechtlicher Prüfung

Everytown befasst sich auch mit dem Schusswaffenangriff an der Florida State University am 17. April 2025, bei dem zwei Menschen getötet und fünf weitere schwer verletzt wurden. Laut dem Bericht soll der Angreifer vor der Tat mit ChatGPT über Schusswaffen und Vorbereitungen für Gewalt gesprochen haben.

Nach Everytowns Darstellung von Gerichtsunterlagen und offengelegten Chatprotokollen enthielten die Gespräche Fragen zu Waffen und dazu, welche öffentliche Reaktion ein Schusswaffenangriff auslösen würde. Die mutmaßlichen Interaktionen sind Teil rechtlicher Schritte von Überlebenden, den Familien der Getöteten und dem Generalstaatsanwalt von Florida geworden.

Zum Zeitpunkt der im Bericht beschriebenen Vorgänge hatten Gerichte noch nicht über die Haftung von OpenAI entschieden. Die Vorwürfe beziehen sich auf Antworten von ChatGPT vor dem Angriff; GatGPT und die WASP sind ein anderes Projekt.

Der Fall zeigt dennoch, warum die Debatte über die Frage hinausgeht, ob eine KI einen funktionsfähigen Gegenstand entwerfen kann. Ein Chatbot kann während eines längeren Gesprächs auch Ermutigung oder Ratschläge geben. Everytown argumentiert, Unternehmen müssten eine zunehmende Gefahr im Verlauf solcher Gespräche erkennen, auch wenn es um eine Waffe geht, die jemand bereits besitzt.

Welche Sicherheitsmaßnahmen vorgeschlagen werden

Everytown empfiehlt Chatbot-Unternehmen, bestimmte Kategorien unsicherer Informationen über Schusswaffen nicht bereitzustellen und eine Krisenreaktion einzuführen, wenn in Gesprächen Schusswaffen mit Anzeichen für Suizidabsichten oder Gewalt gegen andere zusammenkommen.

Die Organisation fordert außerdem Möglichkeiten, gefährliche Antworten zu melden, eine regelmäßige Auswertung solcher Meldungen, die Prüfung von Gesprächen mit hohem Risiko durch Menschen und bessere Verfahren, um schwerwiegende Drohungen an Strafverfolgungsbehörden weiterzuleiten. Interne Audits und mehr Transparenz würden Unternehmen dabei helfen zu prüfen, ob ihre Richtlinien in der Praxis greifen.

Diese Vorschläge verteilen die Verantwortung auf Software und Menschen. Ein Modell kann besorgniserregende Formulierungen erkennen, während eine geschulte Person ein Gespräch beurteilen kann, das weitere Aufmerksamkeit erfordert. Über ein Meldesystem können Nutzer zusätzlich auf eine Antwort hinweisen, die automatisierte Schutzmaßnahmen nicht erkannt haben.

Everytown empfiehlt außerdem, Nutzer auf sichere Waffenaufbewahrung, Informationen zur Waffensicherheit und Unterstützung in einer Krise hinzuweisen. So kann ein Chatbot bei Gesprächen über Gefahren eine konstruktive Reaktion anbieten, anstatt den Austausch einfach zu beenden.

Wilsons Projekt und Everytowns Empfehlungen weisen in entgegengesetzte Richtungen: Das eine wirbt für leichter zugängliche spezialisierte Unterstützung bei Schusswaffen, das andere zielt auf Grenzen für gefährliche Ratschläge und ein stärkeres Eingreifen bei erkennbaren Risiken. Für Nutzer, Familien und Ermittler geht es konkret darum, ob die Ratschläge sicher sind, wer darauf zugreifen kann und ob eine daraus entstandene Waffe zurückverfolgt werden kann.

Wichtige Punkte

• Cody Wilson sagt, GatGPT habe bei der Entwicklung der WASP geholfen, einer kleinen Schusswaffe im Kaliber .22, an deren Entwicklung Menschen beteiligt waren.
• Bei der Vorführung in Austin fielen bei drei Versuchen zwei Schüsse; der erste Versuch schlug fehl.
• Der Prototyp wurde wegen seines Griffs, des unfertigen Abzugsbügels und weiterer Konstruktionsdetails kritisiert.
• GatGPT greift Berichten zufolge auf die Waffendatei-Bibliothek von DEFCAD zurück und kann bei der Auswahl von Bauteilen helfen.
• Der WASP fehlt Berichten zufolge eine Seriennummer, wodurch die Rückverfolgbarkeit zum Thema wird.
• Everytown empfiehlt Beschränkungen für unsichere Ratschläge zu Schusswaffen, Krisenreaktionen, menschliche Prüfung und Unternehmensprüfungen.
• In der breiteren Auseinandersetzung geht es sowohl um die physische Konstruktion von Waffen als auch um die Unterstützung, die Chatbots in gefährlichen Gesprächen bieten.