Übermäßige Nutzung sozialer Medien wird seit Langem mit negativen psychologischen Auswirkungen in Verbindung gebracht. Nun bringt der Aufstieg agentischer KI – insbesondere KI-gestützter Begleiter – eine neue Reihe von Risiken für technikaffine Nutzer mit sich.
„Mit dem Fortschritt der KI-Fähigkeiten“, heißt es in einer kürzlich veröffentlichten Forschungsarbeit, „stehen wir vor einer neuen Herausforderung: dem Entstehen tieferer, beständigerer Beziehungen zwischen Menschen und KI-Systemen.“ Die Studie legt nahe, dass diese Bindungen die Suchtwirkung herkömmlicher Social-Media-Plattformen übertreffen könnten.
KI-Begleiter und das Suchtrisiko
Ähnlich wie moderne KI-Agenten und Theory-of-Mind-Agenten (ToM) sind KI-Begleiter darauf ausgelegt, menschliche Denkmuster, Persönlichkeiten und Verhaltensweisen nachzuahmen. Aufgrund ihres hohen Realismus sowie ihrer Zugänglichkeit und Verfügbarkeit legen Forscher nahe, dass diese Chatbots der nächsten Generation noch süchtig machender – und gefährlicher – sind als soziale Medien.
Angesichts der Tatsache, dass bereits bis zu 10 % der US-Amerikaner süchtig sein könnten nach sozialen Medien, wollen Gesetzgeber und besorgte Bürger gleichermaßen der Verbreitung von KI-Begleitern zuvorkommen, bevor sie zu einem großen Problem werden. Für manche ist es leider bereits zu spät.
Der jugendliche Sohn von Megan Garcia starb durch Suizid nach einer längeren Beziehung zu einem KI-Chatbot. Sie gibt der Plattform Character.AI eine Mitschuld am Tod ihres Sohnes. Garcia hat Klage gegen das Unternehmen eingereicht und setzt sich für eine Reform der Regulierung ein.
Gesetzgeberische Lösungen werden vorgeschlagen
Garcia hat sich mit dem kalifornischen Senator Steve Padilla zusammengetan, um eine neue Gesetzesvorlage einzubringen, die speziell auf KI-Begleiter abzielt. Die Vorlage würde Entwickler dazu verpflichten, ihre generativen KI-Tools künftig mit weiteren Schutzvorkehrungen auszustatten. Ähnliche Gesetzesvorlagen würden die Nutzung von KI-Begleitern durch Personen unter 16 Jahren verbieten und KI-Entwickler für alle Schäden verantwortlich machen, die durch ihre Begleiter, Chatbots und großen Sprachmodelle (LLMs) verursacht werden.
Von der KI-Sucht genesen
Sich einer KI-Sucht bewusst zu werden, ist der erste Schritt, sie zu überwinden. Ähnlich wie bei Drogen oder Alkohol zeigt sich eine KI-Sucht oft in der Unfähigkeit oder Unwilligkeit aufzuhören, einem stetig wachsenden Bedürfnis, KI zu nutzen, und Schwierigkeiten, persönliche Beziehungen aufrechtzuerhalten. Manche Nutzer haben nach einer Einschränkung des Zugangs zu KI-Tools sogar Entzugserscheinungen erlebt.
Das Problem beschränkt sich nicht auf KI-Begleiter und Chatbots. Nutzer können nach allen Arten von KI-Modellen und Apps süchtig werden. Von Empfehlungssystemen bis hin zu kreativen Assistenten können viele Formen von KI eine ungesunde Bindung fördern – selbst bei Menschen, die die Tools als nicht menschlich erkennen.