Prüfung von App-Stores in Singapur deckt 65 schädliche Apps und 24 fehlerhafte Altersfreigaben auf

Mehr als 7.000 Apps in fünf Stores geprüft

Singapur ordnete die Entfernung von 65 Apps mit schädlichen Inhalten an und erreichte für weitere 24 eine korrigierte Altersfreigabe. Vorausgegangen war die erste Prüfung von fünf großen App-Stores. Sexuelle Inhalte waren bei 59 der entfernten Apps der Grund. Dazu gehörten KI-Tools, die Fotos bekleideter Personen ohne deren Einwilligung in explizite Bilder umwandeln.

Die Infocomm Media Development Authority (IMDA) veröffentlichte ihren Online Safety Assessment Report 2026 für bestimmte App-Vertriebsdienste am 24. Oktober 2026. Die Prüfung umfasste den Apple App Store, den Google Play Store, die Huawei AppGallery, den Microsoft Store und den Samsung Galaxy Store. Sie stützte sich auf Kontrollen von mehr als 7.000 Apps und jährliche Sicherheitsberichte für den Zeitraum vom 1. April bis zum 31. Dezember 2025.

Die IMDA stellte fest, dass in allen fünf Stores grundlegende Schutzmaßnahmen vorhanden waren und sich Altersprüfungen generell nur schwer umgehen ließen. Bei den Tests wurden dennoch schädliche Apps entdeckt, die nicht entfernt worden waren, Inhalte für Erwachsene mit ungeeigneten Altersfreigaben sowie Lücken, durch die manche Kinder Apps mit einer Freigabe ab 18 Jahren herunterladen konnten.

Die IMDA, Singapurs Aufsichtsbehörde für Medien und digitale Bereiche, erklärte, die Stores blieben dafür verantwortlich, den Kontakt mit schädlichen Inhalten zu verringern und Altersfreigaben korrekt anzuwenden.

„Wir werden die Anbieter bestimmter App-Vertriebsdienste auch weiterhin dafür verantwortlich machen, dass der Zugang zu schädlichen Inhalten auf ihren Diensten und der Kontakt damit so weit wie möglich eingeschränkt werden und Altersfreigaben korrekt und einheitlich angewendet werden“, erklärte die IMDA.

Die Ergebnisse machen drei konkrete Probleme für Familien deutlich: Gehört eine App überhaupt in einen Store? Beschreibt ihre Altersfreigabe die Inhalte zutreffend? Und blockiert das Konto eines Kindes tatsächlich den Zugang zu Inhalten für Erwachsene? Bei allen drei Punkten stellte Singapurs Prüfung Schwachstellen fest.

Welche Inhalte die entfernten Apps boten

Bei den festgestellten Gründen für eine Entfernung dominierten sexuelle Inhalte. Neben den 59 Apps in dieser Kategorie identifizierte die IMDA vier Apps mit gewalttätigen Inhalten und zwei mit Material, das Laster und organisierte Kriminalität begünstigte. Zu den Beispielen zählten ein Spiel mit übermäßiger Gewalt und Mord sowie eine Glücksspiel-App, die Auszahlungen in Kryptowährung oder echtem Geld anbot.

Besonders übergriffig waren sogenannte Nudification-Tools. Diese Apps nutzen KI, um aus einem gewöhnlichen Foto ein explizites Bild zu erzeugen. Die abgebildete Person kann so ohne ihre Zustimmung zur Erstellung oder Verbreitung zum Ziel eines gefälschten sexuellen Bildes werden.

Auf Apples Store entfielen 30 der 65 wegen schädlicher Inhalte beanstandeten Apps, also etwa 46 Prozent. Die Prüfung umfasste fünf Stores; die veröffentlichten Zahlen enthalten jedoch keine vergleichbare Aufschlüsselung der Zahl der jeweils auf den einzelnen Plattformen geprüften Apps.

Alle 65 Apps wurden entfernt, nachdem die IMDA die Stores informiert hatte. Die Behörde nannte weder die einzelnen Apps noch veröffentlichte sie, wie viele Menschen in Singapur sie heruntergeladen oder genutzt hatten. Für Familien, die frühere Kontakte mit solchen Inhalten nachvollziehen möchten, bleibt das tatsächliche Ausmaß der Nutzung damit unbekannt.

Warum 24 Apps eine Altersfreigabe ab 18 Jahren benötigten

Weitere 24 Apps konnten weiterhin angeboten werden, benötigten nach den jeweiligen Store-Regeln aber eine Altersfreigabe ab 18 Jahren. Vierzehn enthielten sexuelle Inhalte, drei gewalttätige Inhalte und sieben Material, das Laster und organisierte Kriminalität begünstigte. Diese Apps stammten von Apple, Google und Huawei.

Zu den Beispielen gehörten KI-Chatbots mit sexualisierten Aufforderungen, Spiele mit sexuellen Erlebnissen für Erwachsene, ein Spiel mit Waffen in einer Schule sowie ein Rollenspiel rund um Kriminalität und Drogenkonsum. Nach dem Eingreifen der IMDA korrigierten die Stores die Altersfreigaben.

Sexuelle Inhalte machten rund 91 Prozent der Fälle aus, in denen Apps entfernt wurden (59 von 65), verglichen mit rund 58 Prozent der korrigierten Altersfreigaben (14 von 24). Material zu Lastern und organisierter Kriminalität hatte bei den Korrekturen einen größeren Anteil (sieben von 24) als bei den Entfernungen (zwei von 65).

Altersfreigaben sind ein wichtiger Bestandteil der Kindersicherung. Ein Kinderkonto kann so eingestellt sein, dass Apps für Erwachsene blockiert werden. Eine solche App kann den Filter jedoch passieren, wenn ihre Altersfreigabe zu niedrig angesetzt ist. Zutreffende Kennzeichnungen helfen Eltern außerdem bei der Entscheidung, ob sie einen Download erlauben.

Wie Singapur die Altersprüfungen testete

Die IMDA nutzte Testkonten auf verschiedenen Gerätetypen, um die Schritte nachzuvollziehen, die Nutzer bei einer Altersprüfung durchlaufen. Neben den Prüfverfahren selbst untersuchte sie, wie leicht sie sich umgehen ließen, und wertete Angaben der Stores aus.

Der Oberbegriff Altersfeststellung umfasst Verfahren, mit denen festgestellt wird, ob jemand einer bestimmten Altersgruppe angehört. Bei einer Verifizierung wird ein Ausweisdokument oder ein anderer verifizierter Nachweis geprüft. Eine Altersschätzung nutzt Signale wie eine Gesichtsanalyse, um die wahrscheinliche Altersspanne zu ermitteln. Eine Alterseinordnung stützt sich auf Informationen wie Kontoaktivität, Suchverlauf oder Sehgewohnheiten.

Die Stores kombinierten Ausweisdokumente, Singpass, Kreditkartenangaben, Gesichtsscans und Verhaltenssignale. Microsoft bot eine Verifizierung über Singpass, ein Ausweisdokument oder die Analyse eines Gesichtsselbstporträts an. Google schätzte das Alter anhand der Kontoaktivität, während Samsung und Huawei verknüpfte Kreditkarten nutzten.

Nach Einschätzung der IMDA waren die Verfahren generell gut umgesetzt und schwer zu umgehen. Die Nutzung des Kontos eines Elternteils blieb jedoch eine praktikable Möglichkeit, die Schutzmaßnahmen zu umgehen. Daher ist auch die Beaufsichtigung von Konten wichtig, um Kinder von Inhalten für Erwachsene fernzuhalten.

Für diese Prüfungen erhobene personenbezogene Daten fallen unter Singapurs Gesetz zum Schutz personenbezogener Daten (Personal Data Protection Act). Die Datenschutzkommission Personal Data Protection Commission erklärt in ihren Leitlinien, dass für die Altersfeststellung erhobene Informationen nach Erfüllung dieses Zwecks nicht gespeichert werden sollten, auch nicht zur späteren Ausrichtung von Inhalten. Knapp 80 Prozent der von der Regierung befragten Eltern befürworteten eine Altersverifizierung oder -schätzung, verlangten zugleich aber Datenschutzmaßnahmen und Grenzen für die Datenerhebung.

Zugangslücken bei Huawei und Microsoft

Bei bestimmten Versionen der Huawei AppGallery gab es technische Einschränkungen, durch die manche Nutzer Altersprüfungen umgehen konnten. Etwa 7 Prozent der Nutzer waren von diesem Versionsproblem betroffen. Huawei hat das Problem inzwischen behoben, teilte die IMDA mit.

Bei den Tests wurden außerdem vereinzelte Fälle festgestellt, in denen Kinder über Huawei und Microsoft Apps mit einer Altersfreigabe ab 18 Jahren herunterladen konnten. Entweder fehlten Beschränkungen oder sie ließen sich ausschalten. In den Kindersicherungsfunktionen von Microsoft gab es eine Lücke, durch die Kinder die Beschränkungen deaktivieren konnten.

Microsoft führte eine Übergangslösung ein und arbeitete an einer dauerhaften Behebung. Die IMDA nannte keinen Termin für den Abschluss dieser Arbeiten. Bei den übrigen Stores wurden Kinder standardmäßig weitgehend daran gehindert, Apps mit einer Altersfreigabe ab 18 Jahren herunterzuladen.

Die Ergebnisse zeigen, warum Altersprüfung und Downloadbeschränkungen zusammenwirken müssen. Ein Store stellt zunächst das Alter des Nutzers fest und wendet dann die entsprechenden Zugriffseinstellungen an. Fehlt dieser zweite Schritt oder kann das Kind ihn deaktivieren, bietet die Kenntnis des Alters in der Praxis kaum Schutz.

Nutzer erhielten zu wenig Rückmeldung

Alle fünf Stores boten Möglichkeiten, schädliche Apps und Probleme wie gefälschte Bewertungen zu melden. Über das Ergebnis einer Meldung informierten sie die Nutzer jedoch uneinheitlich oder gar nicht.

Auch der Google Play Store und der Samsung Galaxy Store setzten die Pflicht nicht um, Nutzer zu benachrichtigen, die in den vorangegangenen sechs Monaten eine entfernte App heruntergeladen hatten. Nach Gesprächen mit der IMDA sagten beide Verbesserungen ihrer Abläufe zu.

Eine Mitteilung über die Entfernung kann Nutzer darüber informieren, dass eine zuvor als vertrauenswürdig angesehene App gegen die Store-Regeln verstoßen hat. Eine Rückmeldung zu einer Beschwerde zeigt der meldenden Person außerdem, ob der Store den Fall geprüft und Maßnahmen ergriffen hat.

Google, Huawei und Samsung wurden aufgefordert, in ihren nächsten jährlichen Sicherheitsberichten aussagekräftigere Daten vorzulegen. Diese Berichte sollen der IMDA dabei helfen, die Wirksamkeit der Schutzmaßnahmen zu beurteilen, statt nur zu erfassen, welche Instrumente vorhanden sind.

Die IMDA erklärte, sie werde die zugesagten Verbesserungen nachverfolgen und nach dem Rundfunkgesetz (Broadcasting Act) regulatorische Maßnahmen in Betracht ziehen, falls ein Store seine Schwachstellen nicht behebe. Die Staatsministerin für digitale Entwicklung und Information, Rahayu Mahzam, sagte, die Prüfungen hätten ein zufriedenstellendes Ausgangsniveau gezeigt, zugleich aber Verbesserungsbedarf bei der Entfernung von Inhalten und beim Jugendschutz aufgezeigt.

Wie sich die Regeln entwickelt haben

Singapur kündigte den Verhaltenskodex für Online-Sicherheit für App-Vertriebsdienste am 15. Januar 2025 an. Der auf Grundlage von Paragraf 45L des Broadcasting Act von 1994 erlassene Kodex verpflichtet bestimmte Stores, schädliche Inhalte zu moderieren, leicht zugängliche Meldewege bereitzustellen und jährliche Sicherheitsberichte vorzulegen.

Der Kodex umfasst sechs Kategorien: sexuelle Inhalte, gewalttätige Inhalte, Suizid und Selbstverletzung, Cybermobbing, Inhalte, die die öffentliche Gesundheit gefährden, sowie Inhalte, die Laster und organisierte Kriminalität begünstigen. Die Anforderungen an die Altersfeststellung traten ein Jahr nach Inkrafttreten des Kodex in Kraft.

• 15. Januar 2025: Singapur kündigte den Sicherheitskodex für App-Stores an.
• 31. März 2025: Der Kodex trat in Kraft.
• 1. April bis 31. Dezember 2025: Berichtszeitraum der ersten Sicherheitsberichte der Stores.
• 1. April 2026: Die Anforderungen an die Altersfeststellung traten in Kraft.
• 24. Oktober 2026: Die IMDA veröffentlichte ihre erste Sicherheitsbewertung von App-Stores.
• Anfang 2027: Die Regierung plant, einen Gesetzentwurf für einen sichereren Zugang Jugendlicher zu sozialen Medien einzubringen.

Stores, die sich nicht an die Vorgaben halten, können nach dem Broadcasting Act angewiesen werden, die Anforderungen zu erfüllen, oder mit Geldbußen von bis zu einer Million Singapur-Dollar belegt werden. Auch Entwickler, die ihre Apps über diese Stores vertreiben, müssen mit einer genaueren Prüfung ihrer Inhaltsbeschreibungen und Altersklassifizierungen rechnen.

Tests im Ausland deckten ähnliche Schwachstellen auf

Bei Tests in den USA mit vier Konten, die für einen 13-jährigen Jungen eingerichtet worden waren, wurde festgestellt, dass sich damit 135 Apps nutzen ließen, die sexualisierte Bilder erzeugen konnten. Auf den Plattformen von Apple und Google wurde jeweils ein gewöhnliches Jugendkonto und ein Konto mit Kindersicherung getestet.

Über die Apple-Konten ließen sich 61 Apps ohne Kindersicherung und 24 mit Kindersicherung nutzen. Bei Google waren es 47 beziehungsweise 51. Die Untersuchung legte einen weiten Begriff von Nudification zugrunde, der sowohl erzeugte Nacktheit als auch Bilder einer Person in Unterwäsche oder einem Bikini umfasste.

Apple und Google zeigten den Jugendkonten außerdem Werbung für solche Apps. Bis zum 28. September hatte Apple 25 identifizierte Apps entfernt, Google sechs. Bereits heruntergeladene Versionen funktionierten auf den Testhandys jedoch weiterhin. Damit wird deutlich, wie wichtig Benachrichtigungen für Nutzer sind, die eine App bereits installiert haben.

Apple verschärfte seine Regeln gegen Apps, die ohne Einwilligung intime Bilder erzeugen, sowie gegen versteckte Funktionen, die erst nach einer Prüfung sichtbar werden. Die Regeln verlangen außerdem von Apps mit nutzergenerierten Inhalten, problematisches Material zu filtern sowie Melde- und Kontosperrfunktionen bereitzustellen.

Der Google-Sprecher Dan Jackson erklärte, das Unternehmen verbiete Apps, mit denen Nutzer Bilder von Personen entkleiden könnten. Google setze die Regeln durch, indem es Verstöße mit App-Sperrungen ahnde und entsprechende Suchbegriffe einschränke. Singapurs Prüfung ergänzt die Store-Richtlinien um eine behördliche Kontrolle, ob diese in der Praxis wirksamen Schutz bieten.

Lehren für Kinder und geplante Regeln für Jugendliche

Singapur baut neben der Regulierung der App-Stores auch die Online-Sicherheitserziehung aus. Ein Pilotprojekt von E-Bridge mit mehr als 100 Kindern im zweiten Kindergartenjahr soll ab Dezember 2026 ausgeweitet werden. Dann sollen fast 3.000 Kinder im ersten und zweiten Kindergartenjahr in 30 Einrichtungen teilnehmen.

Skool4Kidz führte den Lehrplan im September für 800 Kinder im zweiten Kindergartenjahr in 35 Einrichtungen ein. Die 15-minütigen Einheiten finden einmal pro Woche statt. Mit Geschichten, Rollenspielen und Spielen lernen die Kinder, unangemessene Inhalte zu erkennen und sich an eine vertraute erwachsene Person zu wenden. Im Mittelpunkt stehen persönliche Grenzen, das Nachdenken vor dem Handeln, das Melden von Problemen und die Unterstützung durch Eltern.

Das Ministerium für digitale Entwicklung und Information sprach außerdem zwischen Juni und August 2026 über Fokusgruppen, Dialogveranstaltungen an Schulen und eine CrowdTaskSG-Umfrage mit mehr als 2.000 Eltern und jungen Menschen. Etwa 80 Prozent der Eltern und knapp 70 Prozent der jungen Menschen befürworteten einen altersabhängig angepassten Zugang statt eines vollständigen Verbots sozialer Medien.

Die Teilnehmenden sprachen sich dafür aus, Kindern bis einschließlich sechs Jahren keinen Zugang zu sozialen Medien zu gewähren und den Zugang für Sieben- bis 15-Jährige mit Schutzmaßnahmen zu versehen. Junge Menschen befürworteten im Allgemeinen mehr Eigenständigkeit ab 16 Jahren. Etwa 84 Prozent der Eltern zählten den Kontakt mit unangemessenen Inhalten zu ihren größten Sorgen.

Ein für Anfang 2027 erwarteter Gesetzentwurf könnte Altersprüfungen und eine sicherere Gestaltung von Plattformen vorschreiben. Zu den erwogenen Maßnahmen zählen tägliche Zeitlimits und Beschränkungen für die automatische Wiedergabe, endloses Scrollen und Nachrichten von Fremden. Beim endlosen Scrollen werden fortlaufend weitere Inhalte geladen; die automatische Wiedergabe startet das nächste Video, ohne dass eine neue Auswahl nötig ist.

Eltern wünschten sich flexible Schutzmaßnahmen, die sich anpassen lassen. Junge Menschen befürchteten, starre Zeitlimits könnten Schularbeiten und andere legitime Aktivitäten beeinträchtigen. Premierminister Lawrence Wong warnte im August, Plattformen, die Jugendliche nicht vor süchtig machenden Funktionen schützten, könnten verpflichtet werden, ihr Mindestalter auf über 13 Jahre anzuheben. Die geplanten Maßnahmen sind noch nicht beschlossen.

Die wichtigsten Punkte

• Die IMDA prüfte mehr als 7.000 Apps in fünf Stores und identifizierte 65 schädliche Apps sowie 24 Apps mit fehlerhaften Altersfreigaben.
• Die 65 Apps wurden entfernt und alle 24 Altersfreigaben korrigiert.
• Sexuelle Inhalte waren der Grund für 59 Entfernungen und 14 Korrekturen von Altersfreigaben.
• Huawei behob ein Problem bei der Altersprüfung; Microsoft führte eine Übergangslösung ein und arbeitete an einer dauerhaften Behebung.
• Google und Samsung sagten zu, ihre Benachrichtigungen über entfernte Apps zu verbessern.
• Die Online-Sicherheitsbildung an Vorschulen wird ausgeweitet. Ein Gesetzentwurf zur Sicherheit Jugendlicher in sozialen Medien wird für Anfang 2027 erwartet.