ChatGPT misbruiken behoort binnenkort tot het verleden: er komt een app tegen plagiaat

ChatGPT heeft tal van unieke toepassingen. De app is ook enorm populair bij studenten. Ze gebruiken bijvoorbeeld de chatbot om examenvragen te beantwoorden. Een nieuwe app, ontwikkeld door een student, moet nu dergelijke misbruiken voorkomen.

Waarom is dit belangrijk?

De chatbot ChatGPT, die iets meer dan een maand geleden werd gelanceerd, wordt door sommigen beschouwd als een echte revolutie. En net zoals elke revolutie brengt die app enkele uitdagingen met zich mee. Scholen vrezen bijvoorbeeld dat de chatbot hun leerlingen helpt om te spieken. De huidige anti-plagiaatsoftware is niet effectief, omdat de door de AI geproduceerde teksten nooit elders zijn verschenen.

In het nieuws: Een student heeft een app ontwikkeld die teksten detecteert die door ChatGPT zijn geschreven.

  • Een student uit Princeton heeft een programma ontwikkeld dat kan zien of een tekst is geschreven door een kunstmatige intelligentie, zoals ChatGPT.

De details: Hoe werkt de app?

  • Edward Tian, een student computerwetenschappen en journalistiek aan de Princeton University in de Verenigde Staten, had slechts enkele weken nodig om een toepassing te maken die kan bepalen of een tekst al dan niet door ChatGPT is geschreven.
    • De naam van de applicatie: GPTZero. Je kan die hier terugvinden.
    • De app is veel populairder dan verwacht, waardoor die soms vastloopt.
  • In een interview met de Daily Beast legt de student uit dat hij zijn applicatie baseerde op twee parameters:
    • “Perplexity”, die de complexiteit van zinnen analyseert.
    • “Burstiness”, die de uniformiteit van de zinnen in de tekst analyseert.
    • Na enkele minuten geeft de app een score: hoe lager de score, hoe waarschijnlijker het is dat de tekst door een AI is geschreven; hoe hoger de score, hoe waarschijnlijker het is dat de tekst van menselijke oorsprong is.
  • Edward Tian demonstreerde zijn app op Twitter door een tekst geschreven door een mens te vergelijken (een artikel uit New York Times) met een die gegenereerd werd door ChatGPT (een bijdrage op LinkedIn).
    • Het nieuwsartikel kreeg een score van 114, waardoor de app oordeelde dat het “heel waarschijnlijk door een mens is geschreven.”
    • De tekst van ChatGPT kreeg slechts een score van 40. De app oordeelde dus correct dat de tekst afkomstig was van een bot.
  • “Mensen verdienen te weten wanneer een tekst niet door een mens is geschreven”, zegt Edward Tian, “Er is de laatste tijd zoveel hype rond ChatGPT en AI-generatie, dat mensen het verdienen de waarheid te weten.”

Nog niet volledig op punt

Een voorbeeld: Een mislukte test.

  • Ook wij zijn eens aan de slag gegaan met GPTZero.
  • We hebben een tekst geschreven door ChatGPT over de stijgende rente naast één van onze eigen artikels over hetzelfde onderwerp gelegd. De resultaten:
    • Ons artikel kreeg een score van 269, wat dus betekent dat de app bevestigt dat de tekst door een mens is geschreven.
    • De ChatGPT-tekst scoorde veel lager (104), maar de applicatie concludeerde dat ook die door een mens was geschreven.
  • Edward Tian heeft dus nog veel werk voor de boeg.

En nu: OpenAI is er ook mee bezig.

  • OpenAI, het bedrijf dat ChatGPT heeft ontworpen, werkt momenteel aan een eigen systeem dat misbruik met hun chatbot moet opsporen.
    • “In principe willen we dat wanneer GPT een lange tekst genereert, er een onmerkbaar geheim signaal in de woordkeuzes zit dat je later kunt gebruiken om te bewijzen dat het inderdaad van GPT komt”, aldus Scott Aaronson, een MIT-onderzoeker die zich onlangs bij OpenAI heeft aangesloten.
  • Volgens Aaronson zal het zelfs mogelijk zijn om te controleren of een paar door AI gegenereerde zinnen subtiel zijn toegevoegd in het midden van een door een mens geschreven tekst.

(ns)

Meer
Markten
Mijn Volglijst
Markten
BEL20