Indien erwägt Ende des Safe-Harbour-Schutzes für soziale Medien, Algorithmen im Fokus

Rechtlicher Schutz für Facebook, YouTube und X wird überdacht

Indiens Ministerium für Elektronik und Informationstechnologie prüft, ob Facebook, Instagram, YouTube und X künftig den Schutz verlieren sollten, der sie im Allgemeinen vor rechtlicher Haftung für von ihren Nutzern veröffentlichte Inhalte bewahrt. Im Mittelpunkt der Beratungen steht Paragraf 79 des Information Technology Act von 2000 und die Frage, ob Unternehmen, die entscheiden, welche Beiträge sie empfehlen, denselben Schutz erhalten sollten wie Dienste, die Informationen lediglich übermitteln.

Der Vorschlag befindet sich noch in der Prüfungsphase. Die Behörden werten Stellungnahmen und rechtliche Rückmeldungen aus; Konsultationen mit Beteiligten sind geplant. Eine endgültige Entscheidung oder einen Zeitplan gibt es noch nicht. Ein umfassender Entzug des Schutzes für Social-Media-Plattformen würde wahrscheinlich eine Änderung des IT Act und die Zustimmung des Parlaments erfordern.

Der sich abzeichnende Ansatz der Regierung könnte den Schutz für Internetanbieter, Telekommunikationsdienste und Nachrichtendienste erhalten, die Mitteilungen zwischen Nutzern übermitteln, ohne in deren Inhalte einzugreifen. Für Plattformen, die Beiträge mithilfe von Algorithmen ordnen, hervorheben oder unterdrücken, könnte ein anderer rechtlicher Maßstab gelten.

Für Millionen Nutzer könnten die Folgen über die Rechtskosten der Unternehmen hinausgehen. Eine stärkere Haftung könnte verändern, welche Videos in Empfehlungsfeeds erscheinen, wie schnell umstrittene Beiträge verschwinden und wie Plattformen Beschwerden über Deepfakes oder ohne Einwilligung geteilte intime Bilder bearbeiten. Auch für Kreative und Nachrichtenverlage könnten sich die Systeme ändern, über die ihre Arbeit ein Publikum erreicht.

Was Paragraf 79 derzeit schützt

Der von der Regierung veröffentlichte Information Technology Act bezeichnet Paragraf 79 als Haftungsausnahme für Vermittlungsdienste unter bestimmten Voraussetzungen. Vereinfacht gesagt, unterscheidet er zwischen der Person, die etwas veröffentlicht, und dem Dienst, der es hostet oder übermittelt. Zugleich legt er Bedingungen fest, die ein Dienst erfüllen muss, um Schutz zu erhalten.

Paragraf 2(w) definiert einen Vermittlungsdienst weit. Als Beispiele nennt er Telekommunikationsanbieter, Internetanbieter, Webhosting-Dienste, Suchmaschinen, Online-Zahlungsdienste, Auktionsseiten und Online-Marktplätze. Das Gesetz erfasst damit eine deutlich größere Gruppe als nur Social-Media-Unternehmen.

Paragraf 79(2) beschreibt qualifizierende Funktionen. Dazu zählt der Zugang zu einem Kommunikationssystem, über das Informationen anderer Personen übertragen, vorübergehend gespeichert oder gehostet werden. Außerdem legt er Bedingungen dafür fest, ob ein Vermittlungsdienst eine Übertragung veranlasst, ihren Empfänger auswählt oder die übermittelten Informationen auswählt oder verändert. Vermittlungsdienste müssen die Sorgfaltspflichten und behördlichen Vorgaben einhalten.

Paragraf 79(3) hebt die Haftungsausnahme auf, wenn ein Vermittlungsdienst an einer rechtswidrigen Handlung mitwirkt, sie unterstützt oder dazu anstiftet. Er regelt auch Fälle, in denen rechtswidrige Inhalte nach Kenntniserlangung oder behördlicher Mitteilung nicht unverzüglich entfernt oder gesperrt werden; Beweismittel müssen dabei erhalten bleiben. Gerichtsentscheidungen haben geprägt, wie diese Mitteilungspflichten anzuwenden sind.

Für Unternehmen gelten neben der Entfernung von Beiträgen weitere Pflichten. Paragraf 67C verpflichtet Vermittlungsdienste, vorgeschriebene Informationen für den von der Regierung bestimmten Zeitraum und in der vorgegebenen Form aufzubewahren. Vorsätzliche oder wissentlich begangene Verstöße können mit bis zu drei Jahren Haft und einer Geldstrafe geahndet werden.

Warum Empfehlungssysteme im Mittelpunkt stehen

Regierungsvertreter prüfen, ob die Art und Weise, wie Social-Media-Unternehmen Inhalte verbreiten, einer redaktionellen Kontrolle gleichkommt. Facebook, Instagram, YouTube und X hosten von Nutzern erstellte Inhalte, doch ihre automatisierten Systeme entscheiden auch, welche Beiträge prominent angezeigt werden und welche kaum Beachtung finden.

Ein Algorithmus ist eine Reihe von Anweisungen, die eine Software verwendet. In einem Empfehlungsfeed kann er Sehgewohnheiten, Interaktionen und Merkmale eines Beitrags auswerten, um vorherzusagen, was eine Person ansehen oder worauf sie reagieren könnte. Dadurch kann ein Video viele Menschen erreichen, die dem Urheber nie gefolgt sind.

Die Regierung argumentiert, dass die Einstufung, Platzierung, Hervorhebung und Unterdrückung von Beiträgen den Plattformen eine aktive Rolle dabei geben, über das Schicksal eines Beitrags zu entscheiden. Die Behörden prüfen außerdem, wie Unternehmen ihre eigenen Gemeinschaftsstandards anwenden, die von den Vorgaben des indischen Rechts abweichen können.

Eine auf Empfehlungssysteme zugeschnittene Änderung würde die rechtliche Behandlung der Verbreitung besonders wichtig machen. Die Regierung müsste festlegen, welche Aktivitäten eine zusätzliche Verantwortung auslösen und wie diese bei rechtswidrigen Inhalten anzuwenden ist. Plattformen könnten ihrerseits sowohl die von ihnen gehosteten Inhalte als auch die Inhalte überdenken, die sie einem breiteren Publikum empfehlen.

Kinderschutz setzt das bisherige Modell unter Druck

Der Beschluss des Obersten Gerichtshofs vom 15. Oktober im Verfahren Just Rights for Children Alliance vs S Harish ist zu einem wichtigen Teil der Debatte geworden. Im Zusammenhang mit der Verbreitung von Material über sexuellen Kindesmissbrauch forderte das Gericht einen gesonderten Rahmen mit verhältnismäßigen Sanktionen, darunter Geldbußen.

Das Gericht verwies auf ein Problem, wenn der Entzug des Safe-Harbour-Schutzes als zentrale Maßnahme eingesetzt wird: Bei gewöhnlichen Versäumnissen kann er eine zu drastische Reaktion sein, während er bei wiederholten Verstößen möglicherweise keine ausreichende Abschreckung bietet. Nach dem vorgeschlagenen Ansatz sollte der Schutzentzug schweren Verstößen vorbehalten bleiben; für weniger schwerwiegende Versäumnisse sollten andere Sanktionen gelten.

Die umfassenderen Beratungen des Ministeriums und die vom Gericht vorgeschlagene Sanktionsstruktur betreffen somit unterschiedliche regulatorische Entscheidungen. Bei den einen geht es darum, welche Dienste Anspruch auf Schutz haben sollten; bei den anderen darum, wie Versäumnisse geahndet werden können, ohne in jedem Fall die schwerste Konsequenz anzuwenden.

Der Oberste Gerichtshof hat außerdem die Zentralregierung und Meta um Stellungnahmen zu einer im öffentlichen Interesse eingereichten Petition von Sreerupa Chowdhury zu algorithmischer Abhängigkeit und Online-Schäden für Kinder gebeten. Die Petition äußert Bedenken zu endlosem Scrollen, Videos mit automatischer Wiedergabe, Push-Benachrichtigungen, unzureichenden Alterskontrollen, Online-Anbahnung von sexuellem Missbrauch und Material über sexuellen Kindesmissbrauch.

Diese Vorwürfe rücken die Produktgestaltung in den Mittelpunkt. Beim endlosen Scrollen werden fortlaufend neue Beiträge angezeigt, während die automatische Wiedergabe ein weiteres Video startet, ohne dass der Nutzer erneut entscheiden muss. Die Petition fordert das Gericht auf, Schutzmaßnahmen gegen die mit solchen Funktionen verbundenen Schäden zu prüfen, zusätzlich zum Schutz vor rechtswidrigen Inhalten.

Politische Auseinandersetzungen verschärfen den Konflikt

Die Beziehungen zwischen der Regierung und Meta verschlechterten sich, nachdem Facebook während Studierendenprotesten im Juli kurzzeitig ein von Premierminister Narendra Modi hochgeladenes Video gesperrt hatte. Das IT-Ministerium lud Metas Verantwortliche für globale Politikgestaltung vor und äußerte Bedenken hinsichtlich der Einhaltung indischen Rechts und von Deepfakes.

Auch die Rolle von Instagram bei der Mobilisierung von Unterstützung während dieser Proteste trug dazu bei, dass die Regierung die Empfehlungssysteme genauer prüfte. Behördenvertreter äußerten die Sorge, dass oppositionelle oder regierungskritische Erzählungen mitunter größere Sichtbarkeit erhielten als die Kommunikation der Regierung.

Im August warnte Nishikant Dubey, Abgeordneter der BJP und Vorsitzender des Parlamentarischen Ständigen Ausschusses für Kommunikation und Informationstechnologie, Meta könne den Safe-Harbour-Schutz verlieren. Der Ausschuss habe empfohlen, Plattformen, die indische Gesetze nicht einhielten, den Schutz zu entziehen, sagte er.

Die Prüfung wurde im Oktober fortgesetzt: Das Ministerium forderte Meta auf, die auf Facebook und Instagram erscheinenden Sichtweisen stärker zu diversifizieren. Vorausgegangen waren Proteste gegen den obersten Wahlkommissar Gyanesh Kumar. In einer Empfehlung vom 8. Oktober wurden Plattformen außerdem aufgefordert, Beschwerden der Regierung zur öffentlichen Ordnung vorrangig zu bearbeiten und irreführende Inhalte zu kennzeichnen.

Im November warfen das Software Freedom Law Centre und Content-Ersteller Meta vor, auf Wunsch der Regierung Beiträge über die Proteste gegen Gyanesh Kumar mithilfe von Stichwörtern oder Hashtags eingeschränkt zu haben. Auch Journalistenkonten und Protestbeiträge seien eingeschränkt worden. In den Mitteilungen dazu fehlten oft nähere Angaben zu den beteiligten Behörden oder den zugrunde liegenden Anordnungen. Dadurch ist Transparenz über Einschränkungen für Menschen, die politische Inhalte veröffentlichen, zu einem praktischen Anliegen geworden.

Xs Klage vor Gericht zeigt, was bei Löschanordnungen auf dem Spiel steht

X hat unabhängig davon den Rahmen der Zentralregierung für das Sperren und Entfernen von Inhalten angefochten, darunter die Nutzung des Sahyog-Portals für entsprechende Mitteilungen. Im September 2025 wies der Oberste Gerichtshof des Bundesstaates Karnataka die Klage des Unternehmens ab; X legte Berufung ein.

Im Streit geht es darum, wie behördliche Anweisungen Plattformen erreichen und auf welcher Befugnis die verlangten Maßnahmen beruhen. Der Safe-Harbour-Schutz fügt eine weitere Ebene hinzu: Wie eine Plattform auf eine gültige Löschanordnung reagiert, kann beeinflussen, ob sie ihren Schutz vor Haftung für die betreffenden Inhalte behält.

Die wichtigsten Entwicklungen erstreckten sich über mehrere Monate:

• Juli: Das IT-Ministerium lud Meta-Vertreter vor, nachdem Facebook Modis Video während Studierendenprotesten kurzzeitig gesperrt hatte. Das Ministerium wies WhatsApp zudem an, die geplante Funktion mit Nutzernamen bis zum Abschluss von Konsultationen auszusetzen.
• August: Nishikant Dubey, Vorsitzender des Parlamentsausschusses, warnte, Meta könne den Safe-Harbour-Schutz verlieren.
• September 2025: Der Oberste Gerichtshof des Bundesstaates Karnataka wies Xs Klage gegen den Löschmechanismus der Regierung ab. X legte Berufung ein.
• 8. Oktober: Eine Empfehlung des Ministeriums befasste sich mit Beschwerden zur öffentlichen Ordnung und der Kennzeichnung irreführender Inhalte.
• 15. Oktober: Der Oberste Gerichtshof forderte im Kinderschutzverfahren verhältnismäßige Sanktionen.
• November: Das Software Freedom Law Centre und Content-Ersteller warfen Meta Einschränkungen von Inhalten über die Proteste gegen Gyanesh Kumar vor.

WhatsApps Nutzername-Funktion wirft eine gesonderte Frage auf

Die geplante Nutzername-Funktion von WhatsApp würde es ermöglichen, andere zu kontaktieren, ohne die eigene Telefonnummer preiszugeben. Im Juli wies das IT-Ministerium das Unternehmen an, die Einführung bis zum Abschluss von Konsultationen auszusetzen. Als Gründe nannte es Bedenken hinsichtlich Identitätsbetrugs, Phishing und Finanzbetrugs.

Beim Phishing werden Menschen dazu gebracht, sensible Informationen preiszugeben oder Geld zu überweisen, häufig indem sich jemand als vertrauenswürdige Person oder Organisation ausgibt. Nutzernamen können die Notwendigkeit verringern, eine Telefonnummer offenzulegen, verändern aber zugleich, wie Menschen die Identität einer kontaktierenden Person erkennen und überprüfen.

Die Regierung erwägt eine formelle Vorgabe, wonach Social-Media- und Nachrichtendienste die Behörden vorab über größere Produktänderungen informieren müssen, die sich auf die Sicherheit der Nutzer auswirken könnten. So könnten die Behörden Risiken prüfen, bevor eine Funktion für Nutzer verfügbar wird.

Nachrichtendienste nehmen in den Beratungen somit zwei Rollen ein. Dienste, die Nachrichten lediglich übermitteln, könnten nach dem vorgeschlagenen Ansatz den Safe-Harbour-Schutz behalten und zugleich mit einer Prüfung neuer Funktionen und deren Sicherheitsfolgen rechnen müssen.

Schnellere Beschwerdewege für Betroffene von Deepfakes

Das Ministerium prüft außerdem wirksamere Möglichkeiten für Betroffene, die Entfernung von Deepfakes, ohne Einwilligung geteiltem sexuell explizitem Material und anderen Bildern oder Videos zu verlangen, die ihre Identität missbrauchen. Ein Deepfake ist ein synthetisches oder verändertes Medium, das den Eindruck erweckt, jemand sage oder tue etwas, das diese Person tatsächlich nicht gesagt oder getan hat.

Der vorgeschlagene Mechanismus würde es Betroffenen ermöglichen, sich direkt an Plattformen zu wenden und schnelleres Handeln zu verlangen. Die Behörden wollen Beschwerden der abgebildeten Person stärker gewichten, statt die Reaktion weitgehend den internen Moderationsentscheidungen eines Unternehmens zu überlassen oder die Person auf ein Gerichtsverfahren zu verweisen.

Für jemanden, dessen intime Bilder ohne Einwilligung verbreitet werden, zählt die Geschwindigkeit, denn während eine Beschwerde bearbeitet wird, können sich Kopien weiterverbreiten. Entscheidend ist in der Praxis, ob Betroffene das Material identifizieren, ein zuständiges Team erreichen und rechtzeitig eine Entscheidung erhalten können.

Die indischen Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, die am 25. Februar 2021 bekannt gegeben wurden, haben die Sorgfaltspflichten bereits ausgeweitet. Sie umfassen die Bearbeitung von Beschwerden, die Aufbewahrung von Informationen, die Unterstützung von Behörden und die Entfernung expliziter Inhalte. Mit den aktuellen Beratungen soll die Reaktionsmöglichkeit für betroffene Nutzer innerhalb dieses umfassenderen Rahmens gestärkt werden.

Indiens Gerichte haben aktive Rollen bereits geprüft

Safir Anand, Senior Partner der Anwaltskanzlei Anand and Anand, erörtert in der Analyse der Haftung von Vermittlungsdiensten seiner Kanzlei das Gleichgewicht zwischen Schutz und Verantwortung. Er zeichnet darin nach, wie Entscheidungen wie Shreya Singhal v. Union of India aus dem Jahr 2015 und Myspace v. Super Cassettes aus dem Jahr 2017 die Behandlung tatsächlicher Kenntnis und von Löschpflichten geprägt haben.

Anand argumentiert, die Regulierung solle Raum für rechtmäßige Meinungsäußerung bewahren und zugleich Vermittlungsdienste zur Erfüllung ihrer Pflichten anhalten. Er schreibt:

In diesem Zusammenhang muss ein Gleichgewicht zwischen der Gewährung von Ausnahmen und der Auferlegung von Haftung gefunden werden.

Die Analyse der Kanzlei befasst sich auch mit Christian Louboutin v. Nakul Bajaj aus dem Jahr 2018. Darin prüfte der Oberste Gerichtshof von Delhi den Unterschied zwischen einem Vermittlungsdienst und einem aktiven Vermittler im Onlinehandel. Zu den relevanten Tätigkeiten zählten Werbung, Zahlungsabwicklung, Qualitätssicherung und Echtheitsgarantien.

Eine weitere in der Analyse besprochene Entscheidung, Amazon Seller Services v. Modicare, stellte fest, dass die Erbringung von Dienstleistungen über einfaches Hosting hinaus den Schutz eines Online-Marktplatzes nicht automatisch aufhob. Für die Debatte über soziale Medien zeigen diese Fälle, warum die konkrete Tätigkeit und der Wortlaut eines neuen rechtlichen Prüfmaßstabs entscheidend sein werden.

Andere Rechtsordnungen wählen unterschiedliche Regulierungsansätze

Der Oberste Gerichtshof der Vereinigten Staaten befasste sich 2023 mit einem Streit über YouTubes Empfehlungen. Die Familie einer Frau, die bei den Terroranschlägen von Paris 2015 getötet wurde, argumentierte, Empfehlungen hätten dem „Islamischen Staat“ geholfen, Propaganda zu verbreiten und Unterstützer zu rekrutieren. Sie focht Googles Schutz nach Paragraf 230 des Communications Decency Act an.

Nach seiner Entscheidung in einem damit zusammenhängenden Verfahren über Beihilfe zum Terrorismus verwies das Gericht den Fall zur erneuten Prüfung zurück. Die weitergehende Frage, ob algorithmische Empfehlungen nicht unter den Schutz von Paragraf 230 fallen, ließ es offen.

Das Gesetz über digitale Dienste der Europäischen Union verfolgt einen Ansatz, der auch Pflichten für Empfehlungssysteme umfasst. Es verlangt Transparenz darüber, wie Empfehlungen funktionieren und welche Wahlmöglichkeiten Nutzer haben. Sehr große Plattformen müssen zudem eine Empfehlungsoption anbieten, die nicht auf Profiling beruht. Außerdem sind Risikobewertungen vorgeschrieben.

Der Gerichtshof der Europäischen Union entschied 2021, dass Indexierung, Suchfunktionen und Videoempfehlungen allein nicht ausreichen, um eine aktive Rolle zu begründen, durch die eine Plattform Kenntnis von rechtswidrigen Inhalten oder Kontrolle darüber erlangt. Indiens Beratungen sind damit Teil einer breiteren Debatte über die Zuweisung von Verantwortung für automatisierte Verbreitung.

Für Nutzer in Indien sind die zentralen Fragen konkret: Können schädliche Inhalte schneller entfernt werden? Erklären Plattformen Einschränkungen? Und verlieren rechtmäßige Äußerungen an Sichtbarkeit, weil Unternehmen rechtliche Folgen fürchten? Der Umfang einer Gesetzesänderung, die vorgeschlagenen Sanktionen und das Beschwerdeverfahren werden darüber entscheiden, wie diese konkurrierenden Anliegen berücksichtigt werden.

Die wichtigsten Punkte

• Indien prüft Einschränkungen des Schutzes nach Paragraf 79 für Social-Media-Plattformen, die mithilfe von Algorithmen die Sichtbarkeit von Inhalten bestimmen.
• Die Beratungen stehen noch am Anfang. Umfassende Änderungen würden wahrscheinlich eine Änderung des IT Act durch das Parlament erfordern.
• Dienste, die Informationen lediglich übermitteln, darunter entsprechend qualifizierte Nachrichtendienste, könnten den Schutz behalten.
• Der Oberste Gerichtshof hat verhältnismäßige Sanktionen einschließlich Geldbußen gefordert. Der Safe-Harbour-Schutz soll nur bei schweren Verstößen entzogen werden.
• Weitere Vorschläge betreffen die vorherige Mitteilung über größere Produktänderungen und schnellere Beschwerdewege bei Deepfakes und ohne Einwilligung geteilten intimen Bildern.
• Streitigkeiten über politische Inhalte und Xs Klage gegen Löschmechanismen haben die Debatte über Rechenschaftspflicht und Meinungsäußerung im Internet verschärft.