ChatGPT & Co: Wenn künstliche Intelligenz Forentexte schreibt...

[Matt Merchant]

Liebe Forianer*innen,

so ein Forum hat's immer wieder mit Trollen, Spam und Schleichwerbung zu tun; praktisch täglich gibt es für die Moderation fleißig was zu löschen...

Aber eines scheint mir in letzter Zeit neu zu sein:
Bekanntlich verbreiten sich seit einigen Monaten künstliche Intelligenz-Programme, die auf Knopfdruck Texte verfassen können, besonders prominent die frei zugängliche und erschreckend logisch textende Software "ChatGPT" (Die kann zum Erstaunen von Theolog*innen sogar auf Knopfdruck in Sekundenschnelle gut durchschnittliche Predigten erfinden, von Klassenarbeiten unserer Schüler*innen ganz zu schweigen...)

Nun werden es einige hier sicher längst bemerkt haben: Dieser Tage und Wochen gab es die ersten handfesten Spam-Beiträge im Forum, die mit an Sicherheit grenzender Wahrscheinlichkeit mithife solcher künstlichen Intelligenzen entstehen: denn sie mixen munter Namen von Forianer*innen, etablierte Thread-Titel und hier verbreitetes Vokabular in ihren Spam.
Wir Moderator*innen löschen solchen Murks natürlich so schnell wir es können (und unser Brotjob es gestattet). Und momentan lassen sich solche Fake-Threads auch noch auf einen Blick erkennen: Sie haben irre Logiklöcher und reihen Nonsense-Sätze derart brüllkomisch, dass wir uns intern oft den Bauch halten müssen. Gestern hatten wir eine handfeste Sex- und Prostitutionswerbung mit Vokabular aus unseren Pilger*innen-Dialogen!

So habe ich zwei Anliegen für die Zukunft: Bitte helft uns einerseits weiterhin tatkräftig und meldet gerne jederzeit, wenn Euch ein Beitrag oder Thread verdächtig nach Spam oder KI erscheint.
Andererseits: Es ist nur eine Frage der Zeit, bis diese Text-Programme so derart gut sein werden, dass man es eben nicht mehr auf den ersten Blick erkennt. Aber auf den zweiten zeigt sich oft durch eine gewisse Künstlichkeit und Manieriertheit des Stils, dass da Maschine statt Mensch am Werk war. Das können wir in Zukunft nicht immer verhindern. Aber es lohnt, dafür den Blick geschärft zu haben.

Alles Liebe!
Matt-Bot, die lustige Mod-Software

[Hans-Jörg]

Hallo Matt,
könnt ihr den Spam nicht von einem KI-Bot entfernen lassen? Dann nützt sie uns wenigstens was.

[SteinimSchuh]

Matt, das klingt eigentlich sehr unterhaltsam, was du da beschreibst . Jetzt hoffe ich sehr, irgendwann mal auf so einen Beitrag zu stossen.
Würde ich natürlich melden! Antworten tut der Bot-Account aber nicht, wenn ich ihm jetzt in seinem Thread antworten würde oder?
Vielleicht wollen auch KIs irgendwann pilgern gehen.

[Frau Holle]

Matt, das klingt eigentlich sehr unterhaltsam, was du da beschreibst . Jetzt hoffe ich sehr, irgendwann mal auf so einen Beitrag zu stossen.
Würde ich natürlich melden! Antworten tut der Bot-Account aber nicht, wenn ich ihm jetzt in seinem Thread antworten würde oder?
Vielleicht wollen auch KIs irgendwann pilgern gehen.

Es ist wirklich lustig manchmal, aber da in diesen Beiträgen stets Links zu dubiosen Seiten gepostet werden, die wir anklicken sollen wird es wohl keine Antworten geben, da das ja der einzige Sinn des Beitrags war.
Die Unterhaltung der Mitglieder ist vermutlich nicht geplant

[Matt Merchant]

Jetzt hoffe ich sehr, irgendwann mal auf so einen Beitrag zu stossen.

Wenn's Dich interessiert: So sieht das aus (habe aus naheliegenden Gründen einige Verpixelungen vorgenommen).
Man sieht: Das Ergebnis ist erbärmlich und momentan noch brüllkomisch.

Aber da bei sowas mittlerweile auch superdreist Sätze und Namen aus dem Forum verwendet werden,
ist's eben wirklich ein bedenkenswertes Thema für die Zukunft.

Hallo Matt,
könnt ihr den Spam nicht von einem KI-Bot entfernen lassen? Dann nützt sie uns wenigstens was.

Lieber Hans-Jörg,
ich gehe mal davon aus, dass wir in einigen Jahren um KI-Spam-Bots nicht mehr rumkommen. Momentan halte ich's für besser, das ganze händisch zu machen, damit nicht versehentlich 'echte' Themen durch den Rost fallen...

[Simsim]

Bald weiß man im Internet nicht mehr, ob man mit Menschen oder Maschinen kommuniziert....erinnert mich irgendwie an den Begriff "das sprechende Bild" aus der Offenbarung des Johannes.

[Matt Merchant]

Heute ist der Diskurs ganz großes Thema in der SZ:
https://www.sueddeutsche.de/projekte/ar ... d-e868566/

[Christoph Kühn]

Und das sagt ChatGPT zum Thema:

ChatGPT: Hallo Mensch, ich bin ein GPT-betriebener AI-Chatbot. Frag mich alles!

Ich: Sollten in daspilgerforum.de Forumsbeiträge KI-generiert erstellt werden?

ChatGPT: Als AI-Assistent kann ich Ihnen sagen, dass die Verwendung von KI-generierten Beiträgen in Foren wie daspilgerforum.de kontrovers diskutiert wird. Es gibt Vor- und Nachteile, die berücksichtigt werden sollten.

Ein Vorteil ist, dass KI-generierte Beiträge möglicherweise eine schnelle und effiziente Möglichkeit bieten, auf Fragen und Anliegen der Nutzer zu antworten. Sie können auch eine breite Palette von Informationen abdecken und verschiedene Perspektiven bieten.

Jedoch gibt es auch Bedenken hinsichtlich der Authentizität und Qualität solcher Beiträge. KI-Modelle können zwar große Mengen an Informationen verarbeiten, aber sie können auch Fehler machen oder ungenaue Informationen liefern. Es besteht auch die Gefahr von Missbrauch, wenn KI-generierte Beiträge dazu verwendet werden, Fehlinformationen zu verbreiten oder bestimmte Interessen zu fördern.

Letztendlich liegt die Entscheidung, ob KI-generierte Beiträge in Foren verwendet werden sollten, bei den Betreibern und der Community des jeweiligen Forums. Es ist wichtig, die Vor- und Nachteile abzuwägen und sicherzustellen, dass die Qualität und Authentizität der Beiträge gewährleistet sind.

[SteinimSchuh]

Was für ein redundantes Gewäsch. Aber schon spannend wie relativ kohärent es ist. Das entwickelt sich bestimmt noch sehr viel weiter. Aber ob wir das unbedingt wollen...?

[Simsim]

Was für ein redundantes Gewäsch. Aber schon spannend wie relativ kohärent es ist. Das entwickelt sich bestimmt noch sehr viel weiter. Aber ob wir das unbedingt wollen...?

Ich halte diese Entwicklung für sehr gefährlich...Maschinen übernehmen das Denken, Forschen, Urteilen, das kreative Umsetzen von Ideen...u.s.w.
Sterile Funktionen ohne Geist und Leben, die uns vorgaukeln können, sie hätten Bewusstsein, Gewissen, sogar Gefühle....

Wenn wir nicht mehr unterscheiden können, was echt und was künstlich ist, was dann?

[Pilgerbär]

Was für ein redundantes Gewäsch. Aber schon spannend wie relativ kohärent es ist. Das entwickelt sich bestimmt noch sehr viel weiter. Aber ob wir das unbedingt wollen...?

Ich halte diese Entwicklung für sehr gefährlich...Maschinen übernehmen das Denken, Forschen, Urteilen, das kreative Umsetzen von Ideen...u.s.w.
Sterile Funktionen ohne Geist und Leben, die uns vorgaukeln können, sie hätten Bewusstsein, Gewissen, sogar Gefühle....

Wenn wir nicht mehr unterscheiden können, was echt und was künstlich ist, was dann?

So lange du dir deiner Gefühle sicher sein kannst gibt es ja Hoffnung

[Simsim]

Das stimmt.
Im übrigen bin ich überzeugt, dass sich das Ego der Menschen mit dieser KI-Geschichte so weit aufbläht, dass es irgendwann platzen muss.

[Matt Merchant]

Lächerlich in der Tat…
Und ein herrliches Experiment; danke Dir sehr, Christoph!! Ich durfte sehr lachen.

Zum Glück erkennt man künstliche Intelligenz immernoch an dieser formalistisch hohlen Gestelztheit im Stil… Aber geben wir der Informatik noch ein paar Jahre - und solche „Deepfakes“ werden erschreckend differenziert ausfallen.
Schon jetzt, hört man, macht ChatGPT diversen SchülerInnen solide ihre Hausaufgaben.

Und auch hier in der „Ausrüstung“-Rubrik hatten wir schon mindestens eine verdächtig plattitüdenhafte (Schleich-)Werbung, die gewiss auf Knopfdruck entstanden ist.

Kein Grund zur Panik, aber für verschärfte Aufmerksamkeit…

Robo-Matt

[caminoxyz]

1. Beispiel für einen mit KI geschriebenen Forums-Beitrag.
(Ein Satireprojekt von caminoxyz. Bitte nicht weiter nachmachen!)

Die Idee hinter Donativo-Herbergen ist, dass die Übernachtung auf Basis einer freiwilligen Spende angeboten wird. Dies ermöglicht es jedem Pilger, unabhängig von seinen finanziellen Möglichkeiten, eine Unterkunft zu finden. Es ist jedoch wichtig, diese großzügige Geste zu respektieren und eine Spende zu hinterlassen, die den Unterhalt der Herberge und die Bedürfnisse anderer Pilger berücksichtigt.

Die Höhe der angemessenen Spende kann von Person zu Person variieren, abhängig von verschiedenen Faktoren wie persönlicher Finanzlage, der Qualität der angebotenen Dienstleistungen und dem allgemeinen Zustand der Herberge. Hier sind einige Punkte, die bei der Entscheidung über die Spende berücksichtigt werden könnten:

Finanzielle Lage: Es ist wichtig, dass jeder das gibt, was er sich leisten kann. Die Spende sollte nicht zu einer finanziellen Belastung werden.

Dienstleistungen: Wenn die Herberge zusätzliche Dienstleistungen wie Mahlzeiten oder Wäscheservice anbietet, könnte dies in die Überlegung einfließen.

Zustand der Herberge: Die Qualität der Unterkunft und der zur Verfügung gestellten Annehmlichkeiten kann eine Rolle spielen.

Andere Pilger: Denken wir daran, dass unsere Spenden nicht nur den Herbergsbetrieb unterstützen, sondern auch anderen Pilgern helfen sollen.

Durchschnittliche Empfehlungen: Oft wird empfohlen, eine Spende im Bereich von 5 bis 15 Euro pro Nacht zu hinterlassen. Dies kann als grober Leitfaden dienen.

Letztendlich ist die Spende in einer Donativo-Herberge eine Gelegenheit, sich aktiv am Erhalt dieser wertvollen Einrichtungen zu beteiligen und anderen Pilgern zu helfen. Lasst uns die Großzügigkeit der Menschen, die diese Herbergen betreiben, würdigen und unseren Teil dazu beitragen.

[caminoxyz]

Hallo

Nun ja ... das die Stadt ja auch Kohle braucht ist schon klar. Aber wenn ich bedenke wie viele Fördermittel die bereits bekommen haben und dass ja die Schaffung Arbeitsplätze und die Gewerbesteuer durch den Tourismus ja auch recht gut tut dann frage ich mich ob das sein muß.

Ich persönlich halte mich wegen der inzwischen bis in den letzten Winkel der Kathedrale schamlos verbreiteten Kommerzialisierung dieser Stadt nicht mehr gerne an diesem Ort auf. "Der Weg ist das Ziel"

Aber na ja - wenn durch so eine Steuer dann die Porta de la Gloria wieder öffentlich zugängich gemacht werden kann ohne dass man mit Hilfe der Eintrittsgelder und der Zweckentfremdung der Compostella Geld aus den Pilger raussaugt dann könnte es auch ein guter Deal sein.

BC

Raimund

2. Beispiel für einen mit KI geschriebenen Forums-Beitrag.
(Ein Satireprojekt von caminoxyz. Bitte nicht weiter nachmachen!)

Hallo Raimund,

vielen Dank für deine offenen Gedanken zu diesem Thema. Es ist wahr, dass die finanzielle Unterstützung für eine Stadt wie Santiago de Compostela, die von einer großen Anzahl von Pilgern und Touristen besucht wird, von großer Bedeutung ist. Die Erhaltung der historischen und kulturellen Stätten, sowie die Verbesserung der Dienstleistungen für Pilger, erfordern finanzielle Ressourcen.

Deine Bedenken über die Kommerzialisierung der Stadt und die Auswirkungen auf die Pilgererfahrung sind absolut verständlich. Der Gedanke, dass "Der Weg das Ziel ist", wird von vielen geteilt, und es ist bedauerlich, wenn die Authentizität und spirituelle Bedeutung eines Ortes durch übermäßige Kommerzialisierung verloren gehen.

Die Idee, dass die Einnahmen aus einer Tourismussteuer dazu verwendet werden könnten, historische Stätten wie die Porta de la Gloria wieder öffentlich zugänglich zu machen, ist eine interessante Perspektive. Eine angemessene Verteilung der Mittel, die Transparenz und die Berücksichtigung der Bedürfnisse der Pilger könnten tatsächlich dazu beitragen, das Gleichgewicht zwischen Erhaltung und Authentizität wiederherzustellen.

Es bleibt wichtig, dass die Einführung einer solchen Steuer sorgfältig durchdacht und in Absprache mit der Pilgergemeinschaft, der lokalen Bevölkerung und anderen Interessengruppen erfolgt. Offene Diskussionen wie diese helfen dabei, verschiedene Blickwinkel zu beleuchten und gemeinsam mögliche Lösungen zu finden.

Vielen Dank, dass du deine Gedanken geteilt hast, Raimund. Es ist durch solche Gespräche, dass wir als Pilgergemeinschaft zusammenwachsen und unseren Einfluss auf wichtige Entwicklungen in den Regionen, die wir bereisen, ausüben können.

Buen Camino und herzliche Grüße,

caminoxyz