Băieții de carne nu pot să vadă LLM-uri mincinoase, așa că lasă AI să se drogheze pe sine

Vrei o imagine precisă? Verifică faptele înainte de a le împărtăși!

Ceea ce nu-i normal, Carnebags nu-i pot detecta LLM-urile mincinoase, așa că lasă-l pe AI să se drogheze pe el însuși. Internetul este plin de șocuri, de la știri părtinitoare și discutabile, până la fapte false.

LogicLens urmărește să separe fapta de ficțiune folosind aceeași tehnologie din spatele unei părți din acel slop: AI.

Este o premisa simplă, de fapt: LogicLens, care trăiește în Chrome ca o extensie a browserului, sau pe iOS sub forma unei aplicații mobile numite Receipts, șterg prin articole, postări de pe rețelele sociale și alt conținut pentru a verifica nu numai inexactitățile factuale, ci și raționamentul rău.

LogicLens și Receipts pretind că identifică erori logice, raporte flag care falsează informațiile, detectează conținutul care încearcă să polarizezeze o problemă și altele similare. Cită și surse, așa că, dacă, de exemplu, trebuie să suni pe cineva să-și dea seama, vei avea muniție.

Sau, dacă încerci să verifici faptele înainte de a le împărtăși, poți obține o imagine mai precisă a situației, și poate să postezi altceva în schimb. Utilizarea extinderii Chrome este la fel de simplă ca să faci clic pe icoana ei din lista extinderilor din browser. Pe iOS, aplicația Receipts este găsită ca opțiune de partajare. Odată ce începe, LogicLens scanează un articol, un post, un video, etc.

pentru a găsi probleme potențiale de incoerență factuală sau logică și le marchează pentru revizuire.

Verifică faptele înainte de a le împărtăși!

În cazul în care faptele din această chestiune se dovedesc a contrazice viziunea ta asupra lumii, creatorii LogicLens spun că nu încearcă să fie partizani - este posibil să nu fii la fel de informat pe cât trebuie să fii, ceea ce sperăm că instrumentul lor va ajuta.

Nu încercăm să fim arbitrii adevărului, compania vorbește despre statele de pagină.

În schimb, LogicLens ajută la descoperirea contextului, astfel încât să puteți decide singur fără spin. Desigur, AI este din ce în ce mai utilizată pentru analiza online și revizuirea conținutului, iar LogicLens nu este o excepție.

LogicLens nu identifică modelele AI care alimentează serviciul său în documentația sa publică disponibilă, dar AI este cu siguranță coloana vertebrală a sistemului. Potrivit LogicLens, folosește un sistem de IA care este Research-supportat și personalizat conceput pentru a depăși modelele generale precum ChatGPT și chiar experți instruiți. Vom lăsa asta oricui este dispus să dea instrumentului o rotație pentru a decide, dar un lucru este sigur: Lumea are nevoie de ceva.

Modelele lingvistice mari și instrumentele de generare a imaginii sunt folosite din ce în ce mai mult pentru a genera conținut de pe internet slop, și nu toate sunt la fel de inofensive ca reclamele proaste pentru gunoiul trimise: o parte din ea este folosită pentru a crea dezinformări foarte convingătoare. Un studiu din 2024 a constatat că dezinformarea generată de AI era chiar mai convingătoare decât lucrurile create de oameni - și asta a fost acum doi ani.

Gândește-te cât de rău a devenit de atunci.

Pentru a înrăutăți situația, au fost ridicate îngrijorările că abilitățile de gândire critică sunt în declin, ceea ce poate face mai dificil pentru oameni să identifice minciuni pe internet.