Skip to main content

Safety & Trust

Your child never talks to raw AI.

Jede KI-Interaktion auf Clouds Children durchläuft ein vierschichtiges Schutzsystem, das wir entworfen haben, betreiben und überprüfen. Ihr Kind erhält Lerninhalte. Keine unvorhersehbaren Ausgaben.

01 Kid input

Input filter

Before anything reaches the AI, we screen what goes in. Attempts to steer conversations toward harmful, off-topic, or age-inappropriate content are blocked at entry.

Blockiert

Personal data exposure, manipulation attempts, off-curriculum steering

Beispiel

Ein Kind gibt einen Impuls für eine Geschichte ein. Alles außerhalb sicherer kreativer Parameter wird durch eine neutrale Alternative ersetzt, bevor die KI es jemals sieht.

02 Filter to AI

Structured prompt

Unser System sendet niemals eine rohe Kinderanfrage an die KI. Es bettet die Eingabe in von Pädagogen verfasste Vorlagen ein — eingeschränkte Rahmen, die Ton, Länge, Thema und Sicherheitsgrenzen vorgeben.

Blockiert

Free-form chatbot access, open-ended prompt injection, unguided generation

Beispiel

Eine Geschichtenanfrage wird zu einem Vorlagenaufruf: Genre, emotionaler Ton, Altersgruppe und Bildungsziel werden alle von uns festgelegt — nicht von der KI improvisiert.

03 AI to output filter

Output filter

Every AI response is intercepted before delivery. It is scored against content, age-fit, educational value, and safety criteria. Responses that fail any check are discarded and regenerated.

Blockiert

Violence, sexual content, adult themes, inaccurate facts, manipulative language

Beispiel

Ein KI-generierter Absatz mit einem mehrdeutigen moralischen Szenario wird markiert, vom Kind zurückgehalten und automatisch eine saubere Version angefordert.

04 Output to parent

Parent visibility

Nichts verschwindet. Jede Interaktion wird in Ihrem Eltern-Dashboard protokolliert. Sie können Abschriften lesen, sehen, was Ihr Kind erstellt hat, die KI-Ausgabe überprüfen und Filter jederzeit anpassen.

Blockiert

Hidden conversations, opaque AI behavior, unreviewed content

Beispiel

Sie öffnen das Dashboard Montagmorgen und lesen genau, welche Geschichten Ihr Kind am Wochenende erkundet hat — KI-Antworten werden dabei angezeigt.

Legal baseline, not a marketing checkbox

We built the platform around these protections. They are not retrofitted.

COPPA-aligned

Designed for COPPA principles: no data collected from children under 13 without parental consent.

GDPR

Datensparsamkeit, Recht auf Löschung und rechtmäßige Grundlage für jeden Datenpunkt, den wir halten.

EU hosting

All data stored on EU-based infrastructure. No transatlantic transfers of child data.

No ads

Zero advertising, zero ad networks, zero ad tracking. Your child's attention is not a product.

No trackers

No third-party analytics pixels or behavioural tracking tools in the child experience.

No data sale

Wir verkaufen, lizenzieren oder teilen Kinderdaten mit keinem Dritten, für keinen kommerziellen Zweck, niemals.

Human review

Automated filters are necessary. They are not sufficient. Humans review content at every stage.

When human review is triggered

  • Any content that scores near the threshold of an automated filter
  • Content flagged by a parent or educator through the dashboard
  • All new story templates before they enter production
  • Random weekly sample audits across active content

What reviewers see

  • The full interaction transcript — input, template used, and AI output
  • The automated filter scores for each safety dimension
  • No child name or account identity — reviewers work on anonymised content

Retention

Interaktionsprotokolle werden standardmäßig 90 Tage aufbewahrt. Eltern können jederzeit über das Dashboard eine Löschung beantragen. Anonymisierte aggregierte Daten zur Filterverbesserung enthalten keine persönlichen Identifikatoren.

Parent controls

You set the boundaries. We enforce them technically, not just by policy.

Full transcript access

Jede Geschichte, jede Spielinteraktion und jede KI-generierte Antwort ist in Ihrem Dashboard lesbar. Keine Zusammenfassungen, die Details verbergen.

Time limits

Set daily or weekly session limits per child. The app surfaces gentle stop cues before hard cut-offs — no abrupt endings.

Content filters

Adjust which content categories are available: story themes, subject areas, emotional intensity. Changes apply immediately.

Account deletion

Das Kinder-Konto und alle zugehörigen Daten jederzeit über das Dashboard löschen — ohne Aufwand und ohne Wartezeit.

We protect and we educate. Families deserve both.

Wir befinden uns in aktiver Entwicklung. Wir laden Sicherheitsforscher, Pädagogen, Kliniker und Eltern ein, zu prüfen, was wir bauen und uns zu sagen, wo es mangelhaft ist. Strukturiertes Feedback erreicht unser Sicherheitsteam innerhalb von 48 Stunden.

🌱 Support Clouds Children

Clouds Children is free to use so every child can access emotional education, not just the ones who can pay. Support us by testing Seeds in the Playground, sharing feedback, giving time or expertise, or making a donation that helps keep the universe open to all families.

Try app Contact