Eine neue Analyse ergab, dass 10 Prozent der größten Newsletter auf der Veröffentlichungsplattform Substack wahrscheinlich in gewissem Umfang KI-generierte Inhalte verwenden und 7 Prozent der Newsletter „in erheblichem Maße auf KI-Inhalte setzen“. Die Analyse wurde von GPTZero durchgeführt, dessen KI-Erkennungstool die Wahrscheinlichkeit bestimmen kann, dass ein Text von einer generativen KI erstellt wurde. Die Ergebnisse wurden exklusiv in WIRED veröffentlicht.
GPTZero untersuchte die 100 beliebtesten Newsletter auf der Substack-Plattform, wobei 25 bis 30 Beiträge jedes Newsletters mit seinem KI-Erkennungstool analysiert wurden. GPTZero stellte fest, dass 10 der Newsletter wahrscheinlich von ChatGPT und anderen Plattformen erzeugte KI-Inhalte verwenden und sieben dieser Publikationen stark darauf angewiesen sind.
WIRED kontaktierte alle sieben Newsletter. Nach Angaben des Magazins bestätigten vier von ihnen, dass Werkzeuge für künstliche Intelligenz Teil ihres Schreibprozesses sind. Die übrigen drei antworteten nicht auf die Bitte um eine Stellungnahme. Die meisten Publikationen, die antworteten, erklärten jedoch, dass sie KI-Tools für Beiträge in sozialen Medien, zum Erstellen von Zusammenfassungen, Anfertigen von Bildern, Überprüfen der Beiträge auf Grammatikfehler und für andere verwandte Aufgaben verwenden, statt die Inhalte des Substack-Newsletters vollständig generieren zu lassen.
„Ich setze in meinen Unternehmen mit Stolz moderne Werkzeuge zur Produktivitätssteigerung ein“, sagte David Skilling, der den Original Football Substack betreibt, der 630.000 Abonnenten vorweisen kann. „KI-Erkennungstools können den Einsatz von KI erkennen, aber zwischen KI-generierten und KI-gestützten Inhalten besteht ein gewaltiger Unterschied.“
Substack hat keine offizielle Richtlinie zur Nutzung von KI auf seiner Plattform. Daher ist es Autoren nicht untersagt, generative KI zur Erstellung von Inhalten für Substack einzusetzen. Helen Tobin, Substacks Kommunikationschefin, lehnte eine konkrete Stellungnahme zu den Ergebnissen von GPTZero ab.
„Wir haben mehrere Mechanismen eingerichtet, um nicht authentische oder koordinierte Spam-Aktivitäten wie Copypasta, doppelte Inhalte, SEO-Spam, Phishing und Bot-Aktivitäten zu erkennen und einzudämmen – viele davon können KI-generierte Inhalte beinhalten“, sagte sie WIRED in einer E-Mail. „Wir überwachen oder entfernen Inhalte jedoch nicht proaktiv allein aufgrund ihrer KI-Herkunft, da es zahlreiche sinnvolle und konstruktive Einsatzmöglichkeiten für die KI-gestützte Erstellung von Inhalten gibt.“
Um die KI-Nachrichten von Substack ins rechte Licht zu rücken: Eine weitere Analyse von GPTZero ergab, dass etwa einer von 20 Wikipedia-Artikeln KI-generierte Inhalte verwendet – etwa halb so viele wie bei den Ergebnissen für Substack. Zusätzliche Analysen von zwei anderen KI-Erkennungstools ergaben jedoch, dass fast 40 Prozent der Beiträge auf der Veröffentlichungsplattform Medium KI-Inhalte enthalten. Der Unterschied besteht darin, dass die meisten dieser Medium-Beiträge nur sehr wenig Resonanz erhalten, während die betreffenden Substack-Autoren einige der beliebtesten Newsletter auf der Plattform herausgeben.