Non siamo più in grado di riconoscere i testi generati dalle IA?
@aitech - Uno studio afferma che tanto varrebbe lanciare una moneta.
Non siamo più in grado di riconoscere i testi generati dalle IA?
@aitech - Uno studio afferma che tanto varrebbe lanciare una moneta.
@katttivizzima da sempre, le persone dotate di una buona padronanza della lingua, quando devono scrivere velocemente dei testi descrittivi o esplicativi, tendono a concentrarsi sul contenuto e a lasciar andare, quasi in autonomia, il flusso scrittorio sulla base del patrimonio linguistico assimilato, generando varianti di frasi già sentite; inoltre, invece che impiegare più subordinate, indulgono sui punti elenco. In pratica fanno già quello che gli LLM sono programmati per fare
@mau @aitech
@informapirata però si spera che gli autori umani non divaghino troppo, o almeno ritornino a bomba al tema iniziale. Credo che gli LLM stiano lavorando su questo, riprendendo il prompt iniziale che dopo un po’ si è perso, ma siamo ancora molto indietro.
@katttivizzima @aitech
@mau @katttivizzima @aitech
> gli autori umani non divaghino troppo
io, beh… tendo a divagare in maniera abnorme, eh…
@informapirata @mau @aitech
molti umani divagano quando parlano, spesso anche quando scrivono.
…uhm.
Oppure ho preso per buoni contenuti che non erano human made?
Ancora per quanto avremo ragione di manifestare questi dubbi? Quanto impiegherà la bolla economica a esplodere e allora dovremmo preoccuparci di cose pure più importanti?
@informapirata @katttivizzima @aitech Una delle mie descrizioni è “matematto divagatore”. Ma appunto torno poi sempre a casa…
@informapirata @katttivizzima @mau @aitech E’ ricorsivamente frattale la struttura degli LLM per cui non si scappa, molti pattern sono uguali ed ecco da dove scaturisce l’ambiguità o la fallce dei sistemi AI di riconoscimento del testo imho. Io mi chiederei perché abbiamo costruito questo tipo di strumenti? Per darci garanzie? a che livello? sembrerebbe della credibilità d’interesse e non per pura velleità.
@nagaye @informapirata @mau @aitech
scusa, mi serve una disambiguazione:
“questo tipo di strumenti” è riferito ai motori LLM oppure a quelli che devono individuarli?
@katttivizzima @informapirata @mau @aitech scusa, intendevo il software di riconoscimento del testo.
@nagaye @informapirata @mau @aitech
Grazie.
Immagino che lo scopo reale sia quello di spingere sempre più i LLM a perfezionarsi in modo da non essere rilevabili come tali.
…suona vagamente terrificante, lo so da me. Ma mi pare l’analisi più coerente, sorry.
@katttivizzima se un LLM mi mette una fonte che non esiste continuerò a rivelarlo come tale. Se mi cita una fonte che dice tutt’altro, butto via comunque il testo. (Purtroppo anche molta gente fa finta di citare una fonte ma dice tutt’altro…)
@nagaye @informapirata @aitech