Australien schlägt Wahl zwischen Social-Media-Algorithmen und neue Pflicht zur Verhinderung von Online-Schäden vor

Wechsel zwischen Feeds als Teil umfassenderer Sicherheitspflichten

Australierinnen und Australier über 16 Jahre sollen künftig wählen können, ob sie Empfehlungen sozialer Medien oder einen Feed mit Beiträgen von Konten sehen, denen sie folgen. Das sieht ein Gesetzentwurf vor, der am 15. Oktober 2026 ins Repräsentantenhaus eingebracht wurde. Plattformen müssten diese Auswahl bei jedem erneuten Öffnen einer App beibehalten, statt Nutzerinnen und Nutzer immer wieder zu Empfehlungen zurückzulenken.

Der Gesetzentwurf zur Änderung des Online-Sicherheitsgesetzes (digitale Sorgfaltspflicht) von 2026 würde Online-Dienste außerdem verpflichten, vorhersehbare Schäden zu erkennen und zu verringern, bevor Nutzerinnen und Nutzer davon betroffen sind. Die Regelung gälte nicht nur für soziale Medien, sondern auch für Websites, Spiele, Nachrichtendienste, Anwendungen und Chatbots mit künstlicher Intelligenz. Unternehmen, die gegen die vorgeschlagenen Vorgaben verstoßen, könnten mit Geldbußen von bis zu 109,2 Millionen australischen Dollar belegt werden.

Kommunikationsministerin Anika Wells will eine Reihe von Online-Verhaltenskodizes und -standards durch eine umfassendere gesetzliche Verantwortung für Sicherheit ersetzen. Der Vorschlag verbindet Vorgaben zur Plattformgestaltung mit stärkerem Schutz von Kindern, schnelleren Reaktionen auf bestimmte Missbrauchsmeldungen und erweiterten Durchsetzungsbefugnissen für die eSafety-Kommissarin.

Wells beschrieb bei einer Veranstaltung des National Press Club die Verantwortung, die Unternehmen ihrer Ansicht nach tragen sollten:

Wer etwas entwickelt, ist für die damit verbundenen Risiken verantwortlich.

Der Gesetzentwurf muss beide Parlamentskammern passieren. Die Labor-Partei hofft, ihn bis Ende 2026 zu verabschieden. Die Koalition lehnt ihn jedoch ab, während die Grünen strengere Strafen, Maßnahmen gegen suchtförderndes Design und ein Klagerecht für Einzelpersonen gegen Technologieunternehmen fordern. Die Regeln für Feeds werden zudem in einem gesonderten Verfahren ausgearbeitet. Die Abstimmung im Parlament ist daher nur ein Teil des Prozesses und nicht der Zeitpunkt, zu dem Nutzerinnen und Nutzer unmittelbar einen neuen Schalter vorfinden würden.

Was ändert sich beim Öffnen einer App?

Ein Empfehlungsalgorithmus ist eine Software, die Beiträge anhand von Faktoren wie angesehenen, mit „Gefällt mir“ markierten oder geteilten Inhalten auswählt und sortiert. Ein Feed auf Grundlage abonnierter Konten zeigt dagegen Inhalte von Personen und Seiten, die der Nutzer oder die Nutzerin bewusst ausgewählt hat.

Der Vorschlag der Regierung „Mein Feed, mein Weg“ soll diese Auswahl sichtbar und dauerhaft machen. Unternehmen müssten Kontoinhaberinnen und -inhaber darauf hinweisen, die Einstellung leicht auffindbar halten und verhindern, dass ein Feed nach einem Verzicht auf Empfehlungen schwieriger zu bedienen ist.

Plattformen müssten sich die Einstellung außerdem bei jedem Öffnen der App merken. Wer Beiträge abonnierter Konten statt vorgeschlagener Videos oder Posts sehen möchte, müsste die Einstellung dann nicht immer wieder ändern.

Der Gesetzentwurf schafft die Befugnis, Werkzeuge vorzuschreiben, mit denen Nutzerinnen und Nutzer Funktionen zur Gestaltung eines Dienstes verwalten können. Die konkreten Regeln für Feeds werden separat konsultiert. Die praktischen Anforderungen müssen diesen Prozess daher noch durchlaufen, auch wenn Wells die Grundsätze beschrieben hat, die Unternehmen erfüllen sollen.

Chanel Contos, Gründerin und Geschäftsführerin von Teach Us Consent, begrüßte die geplante Wahlmöglichkeit. Sie erklärte, wie Empfehlungen weiterhin für diejenigen verfügbar sein könnten, die sie nutzen möchten:

Nichts daran hindert Einzelpersonen, Organisationen oder Unternehmen daran, über algorithmische Feeds ein Publikum zu erreichen. Die Menschen können diesen Feed einfach selbst auswählen, statt ihn aufgezwungen zu bekommen.

Plattformen müssten selbst nach Risiken suchen

Die geplante Pflicht würde das Online-Sicherheitsgesetz ändern. Anbieter müssten Risiken bewerten, geeignete Maßnahmen zu ihrer Verhinderung oder Verringerung ergreifen und ihr Vorgehen dokumentieren. Jährliche Risikobewertungen würden Sicherheit zu einer fortlaufenden Verantwortung machen, statt sie erst nach einer Beschwerde zu berücksichtigen.

Erwachsene würden vor schwerwiegend schädlichen Inhalten und Verhaltensweisen geschützt. Für Minderjährige unter 18 Jahren wäre der Schutz umfassender. Er beträfe unter anderem Mobbing, Inhalte, die Essstörungen fördern, gefährliche Mutproben, kriminelles Verhalten sowie Frauenfeindlichkeit und Angriffe auf die Gleichstellung der Geschlechter. Auch bestimmte schädliche algorithmische Designmerkmale würden unter den Schutz von Kindern fallen.

Die Altersgrenzen erfüllen unterschiedliche Zwecke. Australiens Beschränkungen für den Zugang zu sozialen Medien betreffen Kinder unter 16 Jahren. Die geplante Pflicht würde auch ältere Jugendliche schützen, die diese Dienste nutzen dürfen. Für Spiele, Messenger-Apps und andere erfasste Dienste gälten eigene Verpflichtungen.

Wells hat auch auf Grenzen der geltenden Rechtslage hingewiesen. So könne sie einen umstrittenen geplanten Livestream einer Hinrichtung in den Vereinigten Staaten nicht verhindern. Sarah Hanson-Young, Sprecherin der Grünen für Kommunikation, wollte Meta auffordern, den Stream nicht zu übertragen. Der Streit verdeutlicht den Druck auf Plattformen, gefährliche Inhalte zu bewerten, bevor sie ein Publikum erreichen. Zugleich kann die Regierung nach ihrer Veröffentlichung Maßnahmen durchsetzen.

Neue Schutzvorschriften gegen sexuellen Missbrauch und Gewalt

Der eingebrachte Gesetzentwurf erweitert die Kategorien schwerwiegender Schäden. Dazu zählen die nicht einvernehmliche Erstellung gefälschter Nacktbilder, das Veröffentlichen oder Androhen der Veröffentlichung eines intimen Bildes einer anderen Person ohne deren Zustimmung sowie das Befürworten, Fördern oder Anstacheln zu geschlechtsspezifischer Gewalt.

Gefälschte Nacktbilder können entstehen, indem ein Bild digital verändert oder mithilfe künstlicher Intelligenz eine Person nackt dargestellt wird. Der Vorschlag würde der eSafety-Kommissarin die Befugnis geben, gegen Dienste vorzugehen, die solches Material erstellen. Diese werden häufig als „Nudification“-Dienste bezeichnet.

Das umfassendere Sicherheitspaket befasst sich außerdem mit Inhalten zu Terrorismus, Suizid, Selbstverletzung und Essstörungen. Bei Verhaltensweisen, die eine Straftat nach Bundesrecht darstellen, würde die Pflicht gelten, wenn wahrscheinlich schwerwiegende Schäden entstehen. Diese Schwelle legt fest, welche Straftaten unter diese konkrete Online-Sicherheitspflicht fallen.

John Hartman, Geschäftsführer der Minderoo Foundation, begrüßte den erweiterten Schutz vor dem Missbrauch intimer Bilder, Drohungen und Gewalt. Frauen und Kinder seien online überproportional von Schäden betroffen, darunter Frauenfeindlichkeit und unangemessene Inhalte in sozialen Medien und Dating-Apps.

Der Vorschlag würde außerdem bestimmte geltende Fristen für Löschanordnungen bei Cybermobbing und Online-Missbrauch von 48 auf 24 Stunden verkürzen. Für die betroffenen Meldungen halbiert sich damit die Reaktionsfrist, wodurch schnelles Handeln für Plattformen wichtiger wird, um die Vorgaben einzuhalten.

Neue Schadenskategorien müssten vom Parlament beschlossen werden

Die Regierung strich eine geplante Befugnis, mit der der Kommunikationsminister weitere Kategorien schädlicher Inhalte hätte festlegen können. Weitere Kategorien würden stattdessen eine Gesetzesänderung durch das Parlament erfordern und müssten dort beraten und abgestimmt werden.

Das Ministerium für Infrastruktur, Verkehr, regionale Entwicklung, Kommunikation, Sport und Kunst veröffentlichte den Entwurf des Gesetzentwurfs der Regierung zur Konsultation. Die Frist für schriftliche Rückmeldungen endete laut Bekanntmachung am Dienstag, dem 22. September, um 12 Uhr. Der Entwurf wurde am 8. September veröffentlicht; für Stellungnahmen blieben damit zwei Wochen. Eine Zusammenfassung der Rückmeldungen durch die Regierung lag zum Zeitpunkt der Einbringung des Gesetzentwurfs noch nicht vor.

Die eingebrachte Fassung sieht ausdrückliche Ausnahmen für professionelle Nachrichteninhalte und bestimmte Unterhaltungsinhalte vor. Weitere Ausnahmen betreffen künstlerische und pädagogische Inhalte unter Bedingungen des öffentlichen Interesses, wissenschaftliche und akademische Forschung sowie Material, das der öffentlichen Gesundheit und Sicherheit oder der Schadensminderung dient.

Die Regierung strich außerdem eine geplante Beschränkung für Inhalte, die zum Konsum illegaler Drogen ermutigen oder dazu anleiten. Fürsprecherinnen und Fürsprecher der öffentlichen Gesundheit hatten befürchtet, dass die Formulierung auch Drogenaufklärung erfassen könnte, die Menschen das Leben retten oder Verletzungen verhindern soll.

Die Änderungen reagieren auf ein praktisches Problem: Plattformen nutzen Moderationssysteme, um enorme Mengen an Inhalten zu sortieren. Aufklärung im Gesundheitsbereich kann jedoch dieselben sensiblen Wörter oder Bilder enthalten wie Material, das Schaden verursacht. Die Ausnahmen geben Anbietern eine rechtliche Grundlage, nützliche Informationen bei der Anwendung der neuen Pflicht verfügbar zu halten.

Schutz der Meinungsfreiheit bleibt politischer Streitpunkt

Die Koalition argumentiert, die Definitionen im Gesetzentwurf seien weiterhin zu weit gefasst und könnten politische Zensur ermöglichen. Die für Kommunikation zuständige Oppositionssprecherin Sarah Henderson hat bestätigt, dass die Opposition nicht über das Gesetz verhandeln werde. Zudem stellte sie den Umfang des Schutzes öffentlicher Interessen infrage.

Auch Oppositionsführer Angus Taylor kritisierte den Vorschlag und sagte, die Regierung solle sich darauf konzentrieren, die Beschränkungen für Kinder unter 16 Jahren wirksam umzusetzen. Dass die Ministerbefugnis zur Ergänzung weiterer Schadenskategorien gestrichen wurde, konnte den politischen Streit daher nicht beilegen.

Wells wies den Zensurvorwurf beim National Press Club zurück. Die Pflicht richte sich gegen das Verhalten der Plattformen und diene der Sicherheit, nicht der Einschränkung politischer Meinungsverschiedenheiten:

Hier geht es nicht darum, was Menschen im Internet sagen. Es geht darum, was Plattformen im Internet tun. Ihr Recht, mir oder der Regierung zu widersprechen oder zu glauben, was immer Sie glauben möchten, wird durch eine digitale Sorgfaltspflicht nicht beeinträchtigt.

Wells sagte außerdem, Erwachsene könnten weiterhin Podcasts aus dem sogenannten Manosphere-Milieu hören, die Regierung kritisieren, Memes erstellen oder die Ansicht äußern, die Mondlandung sei vorgetäuscht gewesen. Die Sorgfaltspflicht sei von einer Regulierung von Falsch- und Desinformation zu unterscheiden.

Gesundheits- und gemeinnützige Organisationen haben eine weitere Sorge: Plattformen könnten rechtmäßige Inhalte entfernen, weil sie Sicherheitsregeln zu weit auslegen. Repro Uncensored, eine Organisation, die digitale Zensur dokumentiert und Nutzerinnen und Nutzer beim Anfechten von Kontobeschränkungen unterstützt, gibt an, mehr als 100 bestätigte Fälle aus Australien erhalten zu haben, darunter mehr als 30 seit August 2026.

Der Ombudsmann für die Telekommunikationsbranche sagt, seit 2023 hätten Tausende Menschen wegen Problemen mit Plattformanbietern Hilfe gesucht. Er fordert eine unabhängige externe Streitbeilegung. Zusätzliche Beschwerdemöglichkeiten für Organisationen im Bereich öffentliche Gesundheit, deren Inhalte blockiert werden, sind noch nicht geklärt. Für diese Nutzerinnen und Nutzer ist ein wirksames Beschwerdeverfahren ebenso wichtig wie die Formulierung der Ausnahmen für Inhalte.

Plattformen mit Konten unter falscher Identität testen

Die eSafety-Kommissarin und akkreditierte Forschende könnten Konten unter falscher Identität nutzen, manchmal auch als „Sockpuppet“-Konten bezeichnet, um Dienste zu beobachten und zu testen. Solche Konten können Forschenden zeigen, welche Inhalte eine Plattform einer bestimmten Nutzergruppe empfiehlt.

Die Aufsichtsbehörde müsste Richtlinien dazu in Abstimmung mit der australischen Bundespolizei erarbeiten und jährlich über den Einsatz dieser Konten berichten. Forschende an Universitäten bräuchten eine Ethikgenehmigung. Der Austausch mit anderen Nutzerinnen und Nutzern wäre auf das beschränkt, was nötig ist, damit ein Konto nicht geschlossen wird.

Henderson argumentiert, die Konten könnten missbraucht werden. Wells wies die Vermutung zurück, sie würden zur Verbreitung von Regierungspropaganda genutzt. Sie dienten der Forschung und Durchsetzung der Regeln, etwa dazu, schädliche Empfehlungen zu untersuchen, die Kinder erreichen.

Die Pflichten zur Einhaltung der Vorgaben würden auch für ausländische Dienste gelten, die in Australien tätig sind. Wells bestätigte, dass Truth Social, die mit US-Präsident Donald Trump verbundene Plattform, unter die Regelung fallen würde, da sie in Australien präsent ist. Das Unternehmen müsste Risiken bewerten; die eSafety-Kommissarin würde die Einhaltung der Vorschriften überwachen.

Anne Aly, Ministerin für kleine Unternehmen, sagte, die Pflichten für gewöhnliche Unternehmen würden sich nach den jeweiligen Risiken richten:

Anbieter von Diensten mit geringem Risiko, etwa Websites und Anwendungen kleiner Unternehmen, hätten nur minimale Pflichten.

Dieser Ansatz würde auch für andere Dienste mit geringem Risiko gelten, darunter solche, auf denen überwiegend ausgenommene Inhalte geteilt werden. Weitere Hinweise der Aufsichtsbehörde sollen den Anbietern erläutern, was sie tun müssen.

Geldbußen und ein mögliches Klagerecht

Die vorgeschlagene Höchststrafe von 109,2 Millionen australischen Dollar ist Teil des Durchsetzungsrahmens. Eine gesonderte Strafe im Zusammenhang mit Anordnungen der eSafety-Kommissarin zur Einhaltung der Vorschriften wurde in der eingebrachten Fassung von 21,8 Millionen australischen Dollar im Konsultationsentwurf auf 2,2 Millionen gesenkt. Die Beträge beziehen sich auf unterschiedliche Bestimmungen.

Hanson-Young fordert Geldbußen, die sich am weltweiten Umsatz der Plattformen orientieren. Die Folgen müssten groß genug sein, um Unternehmen zu beeinflussen, die weltweit tätig sind, argumentiert sie. Die Grünen wollen außerdem strengere Maßnahmen gegen suchtfördernde Funktionen wie endloses Scrollen, bei dem beim Durchblättern eines Feeds fortlaufend weitere Inhalte geladen werden.

Eine weitere zentrale Forderung der Partei ist ein individuelles Klagerecht. Menschen, die einen Schaden erleiden, könnten damit selbst rechtliche Schritte gegen eine Plattform einleiten, möglicherweise im Rahmen einer Sammelklage, bei der Menschen mit ähnlichen Ansprüchen gemeinsam klagen.

Wells sagte, die Regierung werde diesen Vorschlag prüfen. Der eingebrachte Gesetzentwurf enthält das Klagerecht nicht, obwohl vor seiner Einbringung Klagen gegen Plattformen als Teil des umfassenderen Pakets möglicher Schutzmaßnahmen beschrieben worden waren. Noch ist nicht geklärt, wer Schadenersatz fordern könnte und für welche Schäden.

Wells prüft außerdem, ob die eSafety-Kommission mehrere Kommissarinnen und Kommissare haben sollte, um die wachsende Arbeitslast zu teilen. Die zweite Amtszeit von Julie Inman Grant als Kommissarin soll 2026 enden. Die geplante Umstrukturierung wäre eine gesonderte Entscheidung darüber, wie die Behörde mit der Durchsetzung der Regeln und der steigenden Nachfrage nach Unterstützung umgeht.

Der Zeitplan von der Konsultation bis zur Durchsetzung

Der Untersuchungsausschuss des Senats wird den Beteiligten Gelegenheit geben, die Definitionen, Strafen und Durchsetzungsregelungen vor einer abschließenden Abstimmung zu prüfen. Sein Bericht wird für den 20. November erwartet, bevor das Parlament Ende November in die Sitzungspause geht.

Die wichtigsten Termine und Schritte:

• 8. September 2026: Die Regierung veröffentlichte den Konsultationsentwurf und bat um schriftliche Rückmeldungen.
• 22. September 2026: Die Konsultation endete um 12 Uhr.
• 15. Oktober 2026: Der Gesetzentwurf wurde ins Repräsentantenhaus eingebracht.
• 20. November 2026: Der Bericht des Untersuchungsausschusses des Senats wird erwartet.
• Bis Ende 2026: Die Labor-Partei hofft auf die Verabschiedung durch das Parlament.
• Nach der Verabschiedung: Eine Übergangsfrist von zwölf Monaten soll den Diensten Zeit zur Vorbereitung geben. Wenn dieser Zeitplan eingehalten wird, wird die Durchsetzung bis Ende 2027 erwartet.

Die Labor-Partei braucht Unterstützung über die eigenen Senatorinnen und Senatoren hinaus. Da die Koalition den Gesetzentwurf ablehnt, werden die Verhandlungen mit den Grünen darüber entscheiden, ob er verabschiedet wird und wie weit die endgültigen Anforderungen reichen.

Für Nutzerinnen und Nutzer ist die unmittelbarste angekündigte Änderung mehr Kontrolle darüber, was in einem Feed erscheint. Für Plattformen besteht die größere Änderung in einer fortlaufenden Verantwortung: Sie müssen prüfen, wie ihre Dienste Risiken schaffen, ihre Erkenntnisse dokumentieren und handeln, bevor Beschwerden eingehen.

Die wichtigsten Punkte

• Australierinnen und Australier über 16 Jahre sollen zwischen algorithmischen Empfehlungen und Inhalten von Konten wählen können, denen sie folgen.
• Die geplante Pflicht würde für soziale Medien, Websites, Spiele, Nachrichtendienste, Apps und KI-Chatbots gelten.
• Minderjährige unter 18 Jahren würden umfassender geschützt als Erwachsene, auch vor schädlichen Inhalten und Designmerkmalen.
• Der eingebrachte Gesetzentwurf streicht die Befugnis des Ministers, weitere Schadenskategorien festzulegen, und erweitert die Ausnahmen für Nachrichten, Bildung, Forschung und Inhalte zur öffentlichen Gesundheit.
• Die Grünen fordern höhere Geldbußen, Maßnahmen gegen suchtförderndes Design und ein Klagerecht für Einzelpersonen. Die Koalition lehnt den Gesetzentwurf ab.
• Der Bericht des Untersuchungsausschusses des Senats wird am 20. November erwartet. Nach einer Verabschiedung soll eine zwölfmonatige Übergangsfrist folgen.