cumu-i cu agentii IA

Am scris un sumar pentru o cunostinta cu privire la Inteligenta Artificiala sau IA. (A friend inquired on how to get started with agentic AI and I thought I give a few tips.)

Hai s-o luam ghinisor, in romana. Un agent este o aplicatie care poate sa interogheze un model precum cele ale companiilor de mai jos, si poate de asemenea actiona si lua decizii. Majoritatea companiilor care au astfel de modele au introdus capabilitati de agent in aplicatiile lor.

Daca ai zero experienta cu vreun agent si / sau AI in general, descarca aplicatiile de “generative AI” pe telefon sau conecteaza-te pe web si joaca-te cu ele: z[hippu], deepseek, kimi, qwen, gemini, claude, chatgpt, perplexity, grok, lumo, copilot, meta. When comparing models, make sure you use the latest model and that you also use similar levels of effort (low-high, thinking vs light, etc). Cand folosesti gratis, poti fi uneori “downgraded” pe un model mai putin performant la orele de varf, dar modele in geografii diferite pot avea ore de varf diferite – tine cont de asta la comparatii. Daca nu ai timp de experimente, iata si cateva idei despre fiecare dintre ele, care sa te ajute sa reduci din optiuni:

• Primele 4 cu care am inceput sunt chinezesti si au tendinta sa bage din cand in cand text in chineza in raspunsuri, dar recent chiar si Claude a fost acuzat de asta; intre acestea, Deepseek a fost primul care a iesit in evidenta, inclusiv prin modele gratis descarcabile, urmat de zhippu, care s-a comparat cu Claude la calitate dar la un pret mai mic, Kimi ridicand si mai recent stafeta pret calitate (value); Qwen il are pe Alibaba in spate. In linii mari sunt mai ieftine decat celelalte pentru performanta comparabila – daca platesti! (daca nu platesti, evident ca nu conteaza)
• ChatGPT este controversial in principal datorita lui Altman (care-l conduce). Acesta este vazut de critici ca fiind un mincinos patologic pe care nu te poti baza; admiratorii sustin ca daca nu ar fi “strapuns”regulile de “non-profit” ale organizatiei sale, revolutia IA ar fi ramas in continuare lenta si tacuta
• Claude este condus de tandemul Amodei, care pare mult mai scupulos si mai preocupat de reguli etice si singularitatea explorata de CTP in Pythia. In experienta mea si a multor altora, e cel mai bun, dar daca trebuie sa platesti, te arde la buzunar. Decizia intre a folosi Claude si alt model este similara cu decizia intre a cumpara si a folosi un produs Apple si ceva diferit. Nu incape indoiala ca un produs Apple va costa mai mult si va avea o calitate mai buna. Se poate obtine performanta Apple/Claude la preturi mai mici, dar asta necesita de obicei cunostinte tehnice si mai mult timp investit in problema.
• Perplexity este un wrapper care-ti trimite intrebarile catre alte modele
• Grok este modelul lui Elon Musk; este interesant ca alte cateva modele, inclusiv Claude, nu au suficienta putere de procesare si ii platesc lui Musk, care o are (de altfel, multe voci sustin ca si pentru plata, AI-ul este vandut in pierdere cam de toata lumea)
• Lumo este modelul de la ProtonMail din Elvetia – Europa a cam ramas in urma si nu-ti pune mari sperante in acesta, dar l-am inclus pentru cei care nu-si pot lasa datele sa plece din Europa
• Copilot este modelul Microsoft, inceput cu Altman. Am impresia ca este cel mai bun la interactiunile in limba romana, intrucat aceasta companie are de mult timp unelte voce in limba romana pe Windows. Nu sunt sigur intrucat interactionez cu ele in principal in engleza.
• Meta este modelul lui Zuckerberg. Acesta a fost in presa mai demult, cand a pionierat cateva metode si modele descarcabile interesante, dar intre timp pare depasit. A putut fi accesat o vreme pe Whatsapp personal, dar si atunci dadea rateuri si nu prea am tinut pasul cu el.

Pana acum cateva luni, daca vroiai agent, trebuia sa folosesti unul gata facut (si cred ca iar Claude era cel mai bun). Dar un cetatean somer (isi vanduse compania si n-avea ce face) s-a apucat si a vibe coded “Open Claw” si i-a publicat codul sursa pe Github. Unele din alegerile tehnice facute de el au rezultat in posibilitati maxime dar si cerinte de memorie destul de ridicate. Pe drumul deschis de el s-au bulucit si altii care au imbunatatit ce facuse el. Eu am experimentat atat cu OpenClaw, creatia sa, precum si cu alte proiecte similare.

Daca iti permiti, cel mai bine pentru tine ca incepator este sa te axezi pe Claude si sa-i platesti abonamentul. Incepe cu partea gratis si apoi treci pe $20/luna, dar numai daca descoperi ca ai nevoie. Il poti intreba direct pe Claude ce si cum sa faci la orice problema sau decizie. Cu alte modele, este bine sa iti structurezi prompt-urile (adica intrebarile) cat mai detaliat, ca si cum vorbesti cu extraterestru dar Claude exceleaza in a rezolva probleme cu prompt-uri minimale, surprinzandu-te cu cat de mult face dintr-o cerinta simpla.

Ca agent, folosesc Hermes Agent, care este un agent similar cu Open Claw, dar mai usor de instalat si de folosit si mai putin lalau in cerinte. Pentru a-l instala, am cumparat un “VPS”, adica un computer in “cloud”. Exista mai multe posibilitati, dar cea mai ieftina este probabil Hostinger. Un “profesionist” poate “scapa” cu un VPS de 4GB RAM, dar pentru majoritatea oamenilor 8GB RAM este preferabil. Aceasta va costa in jur de USD 5 / luna la Hostinger sau mai mult la altii.

VPS-ul trebuie apoi configurat, iar acest proces poate fi automatizat daca poti “rula” Ansible pe Macbook cu o reteta precum gh-5minbootstrap. Trebuie apoi sa instalezi Hermes Agent si sa-l configurezi. Asta inseamna de cele mai multe ori sa iti faci un cont cu un LLM provider. Unii iti ofera asa ceva gratis (wfw-frllm, 3lm-prov). Cheile API gratis sunt greu de obtinut si sufera de tot felul de limitari, dar poti salva sume insemnate pentru uz moderat. Odata instalat agentul si cu un LLM API setat (adica un creier), poti continua operatia de configurare a agentului intrebandu-l ce si cum si, in multe cazuri, agentul poate configura anumite setari singur.

Daca toate acestea ti se par dificile, poti incerca un agent gata setat – Hostinger ofera asta, precum si Kilo si HelloMinds (poza de sus este de la ultimul). Personal, consider ca decat sa folosesti un astfel de agent gata facut mai bine iei ceva de la variantele LLM de la inceputul articolului (claude, chatgpt). Pe de alta parte exista extrem de multe optiuni, piata este foarte dinamica, mereu apar solutii noi si ce vei alege te-ar putea surprinde si pe tine.

Trebuie mentionat pentru o expunere completa (chiar daca tu probabil nu esti inca acolo) ca poti rula pe propriul computer un LLM prin ceva ca Ollama sau LM Studio, cu atat mai mult cu cat anumite procedee de “distilare” si / sau “deschidere” fac multe modele accesibile si celor cu hardware mai slab in form necenzurata.

Voi continua sa adaug link-uri catre firme cu reduceri in pagina de referrals (ref). Good luck!

LE: Nu am avut mult timp pentru a instala Hermes Agent (HA) pe un Macbook. Nefiind familiar cu MacOS, am intrat in Gemini si am pus intrebari. Am fost indrumat catre ce acum pare sa fi fost Hermes Studio (HS), dar atunci parea sa fie interfata grafica a HA. A trebuit sa instalez si “Core Tools” sau ceva de genul, a caror versiune trebuia sa fie identica cu cea a MacOs-ului. Pentru a instala HA este suficienta comanda “curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash” in Terminal. Am obtinut apoi Gemini API Key de la Google’s AI Studio (pentru a-l obtine este necesar sa folosesti Chrome si sa intri pe aistudio.google.com, unde trebuie sa ai un project; daca n-ai creeaza unul) precum si un key de pe OpenRouter (OR) si le-am pus in .hermes/.env – am sfatuit si un depozit de US$10 in OR pentru a “ajuta” functionalitatea. Am setat modelul nemo ultra free ca primary si am “incorsetat” cheia cu o limita lunara de $0.1. Am setat si pluginul ddg pentru search. In incercarile de setare si update, hermes binary cumva a disparut si a fost necesar sa reinstalez, ocazie cu care am constatat ca .dmg-ul HS a ramas intr-un purgatoriu, nefunctionand si neputand fi uninstalled. Am setat de asemenea un VPS gratis – il gasesti in ref, sub numele P*host; acolo poti instala un agent care sa lucreze permanent, dar nu uita ca trebuie sa renew sau extend la fiecare 30 de zile, ceea ce ii poti cere HA de pe laptop sa faca pentru tine. In linii mari, am setat ca totul sa fie gratis sau aproape gratis, ceea ce, desigur, va rezulta in unele intarzieri, dar nu te va arde aiurea si iti da posibilitatea sa procrastinezi cat vrei, fara durere. Ce as mai fi facut daca aveam timp? Mai multe instructiuni precum si alte chestii de care nu sunt sigur ca pot fi facute de un incepator:

• As fi setat un model Google ca primary si l-as fi pus pe Nemo Ultra Free (si altele) ca fallback
• Ca incepator, poti citi ghidul NR (nr-qs)
• Inainte de a-l folosi, scrie comanda “hermes update” in Terminal
• Pornesti HA din Terminal, scriind “hermes” la command prompt; daca vrei sa-l folosesti in browser, scrie “hermes dashboard”
• Daca apar probleme, poti da comanda “hermes doctor” sau “hermes doctor –fix”
• Incepe sa folosesti HA in locul altor “chaturi” si nu uita ca ii poti pune intrebari precum pui oricarui alt model; daca vrei sa pasezi secrete modelului (parole, loginuri, api keys) le scrii intotdeauna in .hermes/.env care este un text file editabil cu nano;
• grupul reddit iti poate oferi inspiratie si poate raspunde unor intrebari

Ca prim proiect, poti scrie in .env, pe cate o linie, adresa de email, parola si URL de la P*host si ii poti cere HA sa faca un script care sa reinnoiasca expirarea VPS-ului la fiecare 29 de zile, apasand pe butonul “Extend”.

Acest articol poate fi gasit la /agentIA.

Sources / More info: ref, gas, gh-5minboostrap, wfw-frllm, 3lm-prov, gh-oc, gh-hs, gh-ha, nr-qs, rd-ha

Asa Grait-a Zody: #ai, #ia, #artificial intelligence, #inteligenta artificiala, #agentic ai, #agent, #hermes, #open claw (Tags)