În ultimele zile, un anumit peisaj tot apare în mintea mea.

Un robot de uz casnic care vine cu o pernă din fabrică.

Foarte blând, foarte grijuliu.

Dar brusc simt că ceea ce decide cu adevărat dacă poate pătrunde în viața ta nu este perna.

Este atunci când acesta ia decizii pentru tine, ai dreptul să întrebi, ce ai bazat pe asta de fapt?

Așa că, când am văzut din nou acea propoziție: Pe măsură ce agenții încep să se ocupe de bani, logistică și infrastructură, "crede-mă" nu mai funcționează.

Pentru prima dată nu l-am considerat un slogan.

Ci mai degrabă ca un avertisment foarte realist.

Nu că oamenii devin răi, ci că sistemul, odată ce nu poate fi verificat, este destinat să nu fie demn de încredere.

1. Ei nu fac un AI care vorbește mai bine, ci un AI care poate prezenta chitanțe.

Înțeleg Inference Labs, de fapt, mai rămâne doar o propoziție:

Nu este vorba de a face modelul mai inteligent, ci de a face concluziile mai contestabile.

Nu este că garantăm că este corect,

Ci mai degrabă când iei această dovadă,

Nu trebuie să mă crezi, pot verifica și singur.

Ei repetă că inferența verificabilă este,

În inima mea se traduce în patru cuvinte: concluzia are dovezi.

2. Ingineria este cel mai ușor de transformat în sloganuri, de fapt este foarte solid, ceea ce fac ei se aseamănă mai mult cu a oferi o bază pentru AI.

Pe această linie DSperse, ceea ce fac ei nu este, pe scurt, romantic.

Descompune modelele mari.

Feliere.

Încă puțin câte puțin compilat în circuitele cu cunoștințe zero.

Sună plictisitor, chiar puțin prost.

Dar simt din ce în ce mai mult că acesta este cu adevărat modul în care ar trebui să funcționeze infrastructura.

Indiferent cât de fluidă este interfața, este doar o experiență, procesul de raționare care poate fi auditat și verificat este cu adevărat stratul de siguranță.

3. Ceea ce îmi place cel mai mult la IL: ei recunosc că lumea se va schimba, TruthTensor pune deriva pe masă.

Majoritatea evaluărilor presupun că lumea este statică.

Intrarea este fixă, distribuția este stabilă.

Dar realitatea nu este.

Adevărul Tensor m-a făcut cu adevărat să fiu atent la un lucru: același model, aceeași sugestie, aceleași date, pe termen scurt pare foarte conform, dar pe termen lung, se va devia treptat de la constrângerile originale.

Nu este o eroare care apare brusc.

Ci mai degrabă în derivă.

Acest lucru este foarte crud.

De asemenea, foarte onest.

Tu nu recunoști lumea dinamică,

Nu se poate vorbi despre un sistem de încredere.

4. Vorbind despre rezultate, să spunem că pot fi verificate, prefer să le consider ca o stare de pe teren.

Tocmai m-am uitat din nou la tabloul de bord de pe site-ul oficial. Până la starea paginii pe care o văd acum:

- Numărul total de dovezi: 272M

- Mineri participanți: 1402

- Rata de succes a validării: aproximativ 70%

De ce sunt dispus să citez aceste numere?

Nu pentru că sunt mari, ci pentru că nu sunt sloganuri, ci urme de execuție pe care le poți verifica oricând.

Acestea seamănă mai mult cu un sistem care respiră, nu cu un poster.

5. Limitele IL trebuie de asemenea să fie vizibile, a nu scrie despre riscuri este cel mai iresponsabil.

Dacă ar trebui să spun ceva în numele acestei direcții, cu siguranță aș scrie aceste trei puncte:

În primul rând, dependența de cale este o problemă reală.

Odată ce infrastructura este legată de anumite structuri ecologice sau de putere de calcul, schimbările externe vor fi amplificate.

În al doilea rând, costul și întârzierile dovezilor nu vor dispărea doar prin sloganuri.

Aceasta este o lucrare pe termen lung, nu o minune pe termen scurt.

În al treilea rând, AI-ul verificabil în stadiul incipient,

Natural nu este plăcut, greu de spus, greu de înțeles, greu de răspândit.

dar, dimpotrivă, respect mai mult această etapă, deoarece adevărata bază nu ar trebui să depindă de emoții.

6. Vreau doar să las o întrebare pentru toți cei care se pregătesc să integreze AI în realitate.

Când agentul tău începe cu adevărat să se ocupe de bani, uși, logistică, infrastructură, vrei să-ți spună: "Crede-mă."

Ci mai degrabă "Aceasta este dovada deciziei pe care am luat-o acum, poți verifica și tu."

Care ai alege?

@inference_labs

#InferenceLabs #VerifiableAI #zkML