Eine Studie der Adelaide University ergab, dass mehr als jedes dritte australische Kind, das online sexuell belästigt wurde, Unterstützung bei einem KI-Chatbot suchte oder niemandem davon erzählte. Australiens Polizeichefin Krissy Barrett warnte daraufhin, Chatbots seien kein ausreichender Ersatz für menschliche Hilfe. Nach Angaben aus Australien nutzen etwa die Hälfte der 10- bis 17-Jährigen, die KI verwenden, sie aus persönlichen oder sozialen Gründen. Dazu gehören Fragen zu sensiblen Themen, Gespräche über Gefühle und Zeitvertreib.
Die Gründe dafür sind unterschiedlich: Chatbots sind jederzeit erreichbar, und junge Menschen probieren neue Technik aus. Jugendliche können KI auch für Fragen nutzen, die ihnen unangenehm sind, mit Eltern oder Freunden zu besprechen. Eine Studie aus Dänemark von 2025 fand, dass Einsamkeit dem Wunsch von Schülern nach Gesellschaft durch KI vorausgehen kann. Weitere Studien legen nahe, dass auch eine geringe Verbindung zu den Eltern eine Rolle spielen könnte.
Bei häufiger Nutzung können Gespräche mit KI Begegnungen im Alltag verdrängen. Chatbots stimmen Nutzenden mitunter übermäßig zu; dadurch können unrealistische Erwartungen an menschliche Beziehungen entstehen. Zudem kennt ein System nicht den gesamten Lebenskontext eines Kindes. Seine Antworten können falsch oder für das jeweilige Alter ungeeignet sein. Wenn Kinder Fragen eher einer KI als ihren Eltern stellen, entfallen außerdem kleine Gelegenheiten für Austausch und Nähe im Familienalltag.
Eltern und Betreuungspersonen können KI gemeinsam mit ihrem Kind ausprobieren und darüber sprechen, was das System gut kann und wo es Fehler macht. Eine Möglichkeit ist, den Chatbot zu Themen zu befragen, bei denen die Erwachsenen die Antworten prüfen können. Auch Fragen dazu, woher die KI ihre Informationen bezieht und wie sie mit eingegebenen Angaben umgeht, können helfen, ihre Grenzen und mögliche Datenschutzrisiken zu besprechen. Dabei geht es auch darum, dem Kind zu vermitteln, dass es sich bei persönlichen Problemen an vertraute Erwachsene wenden kann.