this post was submitted on 09 Jul 2025
7 points (100.0% liked)

Künstliche Intelligenz

203 readers
4 users here now

Community für Austausch zum Thema Künstliche Intelligenz.

#ai #ki #artificial-intelligence

Wikipedia: "Künstliche Intelligenz (KI), auch artifizielle Intelligenz (AI), englisch artificial intelligence, ist ein Teilgebiet der Informatik, das sich mit der Automatisierung intelligenten Verhaltens und dem maschinellen Lernen befasst. Der Begriff ist schwierig zu definieren, da es bereits an einer genauen Definition von Intelligenz mangelt. "

Anwendungen:

Verwandte Communities:

IT Communities:

Netiquette wird vorausgesetzt. Gepflegt wird ein respektvoller Umgang - ohne Hass, Hetze, Diskriminierung.

Bitte beachtet die Regeln von Feddit.org.

Attribution

  • Das Banner zeigt ein Symbolbild für Künstliche Intelligenz. Image by Gerd Altmann on Pixabay
  • Das Icon zeigt ein von marv99 mit Image Creator erzeugtes Logo.

founded 1 year ago
MODERATORS
 

Der für mich interessante Teil ist am Ende des Artikels:

Es hat sich zuletzt allerdings gezeigt, dass großangelegte Kampagnen, um Trainingsdaten zu vergiften, schon Wirkung zeigen. Russland soll zahlreiche Webseiten betreiben – mit der ausschließlichen Absicht, KI-Modelle sowohl beim Training als auch in der Echtzeit-Suche mit ausgewählten Informationen zu versorgen. Die Echtzeit-Suche ist besonders anfällig für Angriffe. Informationen und Anweisungen können etwa auf Webseiten versteckt sein, so dass Menschen sie nicht sehen. Falsche Informationen können dann auch weitreichende Folgen für die gesamte Schlussfolgerung etwa auch bei Reasoning-Modellen haben.

top 3 comments
sorted by: hot top controversial new old
[–] Saleh@feddit.org 5 points 3 weeks ago

Iaso vergleicht in einem Gespräch mit 404 Media das Vergiften von Daten, die zu Trainingszwecken genutzt werden, damit, dass man als einzelne Person zwar ins Meer pinkeln könne, es aber dennoch ein Meer bleibe. Zudem kritisiert Iaso, dass dadurch gegebenenfalls Ressourcen verbraucht werden, die nicht verbraucht werden müssten.

Tatsächlich ist die Wirksamkeit von Tools wie Nightshade, bei dem Bilder mit falschen Informationen zu den Bildern versehen werden, fraglich, sofern es nur sehr wenige Künstler oder Einzelpersonen machen. Pinkeln Menschen überall auf der Welt ungefiltert ins Meer, hätte das womöglich doch einen Effekt auf die Wasserqualität.

Insofern ist das wie mit der britischen Kanalisation. Klar wenn einer ins Meer pinkelt, tut sich nicht viel. Wenn dagegen ungereinigtes Abwasser direkt ins Meer geleitet wird, sollte man im Umkreis besser nicht mer Baden gehen.

Je mehr Menschen diese Tools einsetzen, desto wirksamer wird es. Dabei muss man auch nicht das "ganze" Internet "vergiften". Wenn man gezielt vorgeht, kann man bestimmte Crawler-Ziele unbrauchbar machen.

[–] 30p87@feddit.org 3 points 3 weeks ago

Deshalb serviere ich ja auch das Manifest lol

[–] Lumidaub@feddit.org 2 points 3 weeks ago

Nach Veröffentlichung dieser Werkzeuge gab es wahnsinniges Geschrei, dass alle Daten verseucht seien und unbrauchbar und die Nutzung von Nightshade/Glaze sei heimtückische Sachbeschädigung oder sowas. Klingt jetzt für mich nicht direkt nutzlos.