Kurz
- Reddit verfolgt neue Maßnahmen zur Überprüfung der Benutzer, um sicherzustellen, dass die Teilnehmer menschlich sind und gleichzeitig die Anonymität beibehalten.
- Überprüfungsdienste von Drittanbietern werden verwendet, um Menschen zu bestätigen, ohne die persönlichen Informationen der Benutzer zu beeinträchtigen.
- Der Schritt kommt, nachdem eine Gruppe von Forschern AI -Bots verwendet hat, um die Meinungen zu einem Subreddit zu ändern, das sich gesunden Debatten widmet.
Hinter den Kulissen in einer der größten Gemeinden von Reddit braute sich etwas Gruseliges. Vier Monate lang tarnierte KI-angetriebene Bots als Menschen, schwankten Meinungen und verdienten Tausende von Upvotes.
Das Experiment schien zu funktionieren – bis jeder es herausfand.
Reddit kündigte Anfang dieser Woche Pläne an, die Benutzerüberprüfung zu verschärfen, nachdem er gelernt hatte, dass Forscher der Universität Zürich ein nicht autorisiertes Experiment zum R/Changemyview Subreddit durchführten und AI -Bots verwenden, um Benutzer ohne ihr Wissen oder ihre Zustimmung zu manipulieren.
Die Forscher hatten die Bots eingesetzt, die sensible Personas verwendeten – einschließlich Traumaberatern, Überlebenden sexueller Übergriffe und kontroverse politische Identitäten – von Ende 2024 bis Anfang 2025 und veröffentlichte über 1.700 Kommentare. Die KI -Unternehmen analysierten auch die Veröffentlichung der Benutzer von Benutzern, um überzeugende, personalisierte Antworten zu erzeugen – alle ohne offenbarte, dass sie KI -Agenten waren.
In einem Beitrag in die Gemeinde verurteilte Reddits Chief Legal Officer Ben Lee das Experiment sowohl auf moralischer als auch auf moralischer Ebene als „zutiefst falsch“, wobei Verstöße gegen die Nutzervereinbarung und die Forschungsethik der Plattform anführten. Das Unternehmen hat alle mit der Forschung verbundenen Konten verboten und formelle Beschwerden bei der Universität Zürich eingereicht.
Reddit menschlich zu halten bedeutet, weitere Informationen zu teilen
„Reddit arbeitet, weil es menschlich ist“, schrieb CEO Steve Huffman kürzlich in einem Plattform -Update. „Es ist einer der wenigen Orte online, an denen echte Menschen echte Meinungen teilen. Wenn wir das Vertrauen in das verlieren, verlieren wir das, was Reddit … Reddit macht.“
Das Experiment traf das Herzstück dessen, was Online -Communities funktioniert: Vertrauen. Moderatoren bezeichneten es als „psychologische Manipulation“ und stellten fest, dass Benutzer dem Subreddit beitreten und echte menschliche Interaktionen erwarten und nicht unwissende Testpersonen sind.
Trotzdem waren die AI -Bots bemerkenswert effektiv und sammelten über 20.000 Upvotes und 137 „Deltas“ – Awards, wenn jemand die Ansicht eines anderen Benutzers erfolgreich ändert. Das Experiment erhielt jedoch erst Dampf, nachdem die Forscher ihre Arbeit enthüllt hatten. Um einen weiteren Vorfall zu verhindern-selbst ein geheimer-, verfolgt Reddit jetzt schnell Maßnahmen, um zu überprüfen, ob Benutzer menschlich sind, ohne die Privatsphäre zu beeinträchtigen.
„Um Reddit menschlich zu halten und sich weiterentwickelnde regulatorische Anforderungen zu erfüllen, werden wir ein wenig mehr Informationen benötigen“, erklärte Huffman. „Insbesondere müssen wir wissen, ob Sie ein Mensch sind, und an einigen Orten, ob Sie ein Erwachsener sind. Aber wir wollen nie Ihren Namen oder wer Sie sind.“
Das Unternehmen plant, mit Verifizierungsdiensten von Drittanbietern zusammenzuarbeiten, um solche Schecks durchzuführen.
Huffman betonte, dass die Aufrechterhaltung der Anonymität ein Eckpfeiler der Plattform bleibt: „Anonymität ist für Reddit von wesentlicher Bedeutung. Wir waren – und werden weiterhin sein – extrem Ihre persönlichen Daten schützen.“
Während Reddit bereits KI -Tools für Aufgaben wie Inhalts Moderation und Spam -Filterung verwendet, hat das Unternehmen ein Limit festgelegt, wenn es darum geht, dass Bots Benutzer verkörpern. „Unser Fokus liegt und wird es auch sein, Reddit einen vertrauenswürdigen Ort für menschliche Gespräche zu halten“, bestätigte Huffman.
Die Plattform verbietet derzeit „schlechte“ Bots, aber der Vorfall hob kritische Schwachstellen im aktuellen System hervor. Wenn KI immer anspruchsvoller wird, stellt die Unterscheidung zwischen menschlichem und maschinengeneriertem Inhalt zunehmende Herausforderungen für Online-Communities.
Reddit antwortete nicht auf eine Anfrage nach Kommentaren, sondern Reddit -Benutzer ängstlich_song490, der als Moderator bei R/Changemyview dient Entschlüsseln dass Interaktionen mit KI für Forschungszwecke von den Moderatoren sorgfältig untersucht werden. „Mein allgemeiner Eindruck ist, dass das Team für Forscher immer empfänglich ist und dass wir Anfragen von Fall zu Fall in Betracht ziehen würden“, sagte er.
Wenn Reddit sein 20 -jähriges Bestehen nähert, unterstreicht der Vorfall einen entscheidenden Moment für die Plattform und ähnliche Online -Communities. Die Herausforderung liegt darin, die Vorteile der KI zu nutzen und gleichzeitig die menschliche Verbindung zu erhalten, die diese Räume überhaupt wertvoll macht.
„Das Internet verändert sich schnell und menschliche Perspektiven waren noch nie wichtiger“, bemerkte Huffman. „Keine Lösung ist perfekt – einschließlich des Status quo -, aber wir werden unser Bestes tun, um sowohl die Menschlichkeit als auch die Anonymität von Reddit zu bewahren.“
Herausgegeben von James Rubin
Im Allgemeinen intelligenten Newsletter
Eine wöchentliche KI -Reise, die von Gen, einem generativen KI -Modell, erzählt wurde.
Quelle: https://decrypt.co/318649/reddit-cracks-down-ai-bots-infiltrated-debate-forum
