Razmišljanje – i ponovno razmišljanje: Zašto je važan kontekst u veštačkoj inteligenciji

Džejk Sortor iz kompanije Blitzy nedavno je naglasio da je kontekst presudan za veštačku inteligenciju, posebno u oblasti odbrane. Pri čemu on podrazumeva mnogo više od pukog povećavanja broja tokena koje sistem može da obradi. Kontekst, prema njegovom mišljenju, uključuje i sposobnost razumevanja sličnu ljudskoj.

Sortor je ukazao na to da neuspehe u obaveštajnom radu, poput pogrešne klasifikacije i neuspeha u ažuriranju informacija, ne izaziva nedostatak podataka. Već nesposobnost sistema da pravilno klasifikuje informacije i osvežava svoje razumevanje konteksta.

Sortor smatra da „više konteksta nije uvek bolje“. Zalaže se za optimizovan kontekst, jer prevelika količina informacija može da zatrpa ključne signale i dovede do lošijih rezultata AI sistema.

On je posebno istakao značaj namernog „inženjeringa konteksta“ (context engineering). On podrazumeva promišljeno projektovanje načina na koji se informacije pronalaze, biraju i filtriraju.

Kontekst i osmišljavanje

Sortor upozorava da bi tretiranje konteksta kao automatskog nusproizvoda sve većih i moćnijih modela moglo da ubrza ponavljanje istorijskih grešaka u obaveštajnom radu.

Prema njegovom mišljenju, osmišljavanje konteksta na način koji omogućava sistemu da izvede ispravno značenje predstavlja pitanje od ključnog značaja za nacionalnu bezbednost.

U svetu veštačke inteligencije mnogo se govori o kontekstu. Čak postoji i termin „kontekstni prozor“. Njime se opisuje sposobnost velikog jezičkog modela (LLM) da „vidi“ ono što se nalazi oko njega i da na osnovu toga donosi zaključke.

Međutim, postoje i određene odluke u dizajnu sistema koje mogu biti predmet rasprave.

Postoji i razlika između onoga što bismo mogli nazvati kvalitativnim i kvantitativnim kontekstom.

Tehnički, kvantitativni kontekst odnosi se na broj tokena koji proširuju radni horizont LLM-a. Odnosno na količinu tokena koju model može da obradi i uzme u obzir.

Kvalitativna strana podrazumeva ljudsku procenu načina na koji LLM intuitivno funkcioniše, šta on „zna“ o svom okruženju i kako razume kontekst određenog zadatka ili ideje.

Dakle, bilo da govorimo o „tvrdom“ kontekstu, izraženom kroz brojeve, ili o „mekom“ kontekstu, koji se odnosi na kognitivne sposobnosti, oba aspekta su važna za način na koji pristupamo dizajniranju i primeni ovakvih sistema.

Želeo sam da se osvrnem na prezentaciju koju sam nedavno čuo na događaju TedX MIT Boston. Nju je održao Džejk Sortor, direktor za strategiju javnog sektora u kompaniji Blitzy.

Govorio je o primeni veštačke inteligencije u odbrambenoj industriji. Pripremite se na mnogo citata – smatrao sam da je Sortor govorio veoma rečito i ubedljivo.

Primer

„Mnogo vremena provodimo razgovarajući o sposobnostima modela i računarskoj snazi, i oni jesu važni, ali u oblasti odbrane i obaveštajnog rada kontekst je presudan“, rekao je Sortor na početku.

„Ova logika o primatu konteksta nije karakteristična samo za obaveštajni rad ili odbranu. Ona se pojavljuje svuda“.

Dao je sledeći primer:

„Šef vam pošalje poruku: ‘Moramo da razgovaramo’“, rekao je Sortor, opisujući situaciju.

„Ako ste dan ranije zaključili najvažniji posao godine, a generalni direktor vas je javno pohvalio, ta poruka verovatno znači da ćete dobiti unapređenje.

Ali ako je prošlog meseca bilo otpuštanja i ako ste probili poslednja dva roka, iste te reči verovatno znače da je vreme da ažurirate svoj CV.

Signal se nije promenio, ali se promenio kontekst koji ga okružuje.

“Upravo je to, kako je sugerisao, ono što i LLM modeli moraju da rade. Moraju da uzmu sirovu informaciju, „podignu je prema svetlu“, slikovito rečeno, i analiziraju je kako bi utvrdili njen kontekst na način na koji to mi kao ljudi radimo koristeći svoje biološko pamćenje.

U idealnom slučaju, LLM bi trebalo da može da zadrži i koristi prethodne informacije i iskustva u daljem radu.

Međutim, postoji izazov u načinu na koji se ovaj problem postavlja, posebno u oblasti odbrane, koju je Sortor opisao kao „neurednu, dinamičnu i visokorizičnu“.

Kako primeniti kontekst u veštačkoj inteligenicji

„Prvi problem je pogrešna klasifikacija“, rekao je. „Stigne anomalni signal, ali zbog načina na koji je kontekst postavljen on izgleda kao nešto rutinsko, ili obrnuto. Sledeći problem je neuspeh u objedinjavanju informacija. Svi delovi postoje, ali nikada ne postanu deo zajedničke slike. A treći je neuspeh u ažuriranju. Institucija nastavlja da donosi zaključke na osnovu starog okvira i nakon što se stvarnost promenila“.

Ponovo je naveo primere, između ostalog američki odgovor na napad na Perl Harbor i potragu za oružjem za masovno uništenje u Iraku.

„Ovi propusti deluju očigledno kada ih posmatramo iz današnje perspektive, ali u realnom vremenu gotovo su nevidljivi“, primetio je Sortor. „Problem nije bio u nedostatku informacija. Problem je bio u sposobnosti sistema da na vreme klasifikuje informacije, objedini ih u celinu, a zatim ažurira okvir kroz koji ih posmatra“.

Evo kako je to primenio na kontekst u veštačkoj inteligenciji:

„Veštačka inteligencija ulazi u okruženja koja karakterišu fragmentisane informacije, vremenski pritisak, različiti i međusobno konkurentni načini tumačenja, kao i potisnuta neslaganja. Prirodan tehnički odgovor jeste bolja fuzija podataka, bolje pronalaženje informacija, snažniji modeli i veći kontekstni prozori. Sve je to važno, ali ne odgovara na teže pitanje u oblasti inženjeringa: Šta bi model trebalo da vidi, u kom obliku, u kom trenutku i sa kojom svrhom?“.

Previše konteksta?

Zatim je Sortor doveo u pitanje pretpostavku da je, kada je reč o kontekstu, više uvek bolje, pa je detaljnije razmotrio situaciju u kojoj veća količina konteksta zapravo može da pogorša rezultate.

„Cilj nije maksimalan kontekst“, rekao je. „Cilj je optimizovan kontekst. Ne možemo na kontekst gledati kao na kantu koju samo treba napuniti, čak i dok se razvoj veštačke inteligencije sve više usmerava na proširivanje kontekstnih prozora“.

„Dug kontekst može biti veoma moćan, ali kada su relevantne informacije zatrpane, suvišne, zastarele ili okružene ometajućim sadržajem, performanse mogu da se pogoršaju. Ključni signali mogu da se izgube usred dugih dokumenata, podaci koji se ne uklapaju u dominantnu sliku mogu biti izglačani tokom sažimanja, a sistem može da proizvede samouveren odgovor koji prikriva neizvesnost koja se nalazi u njegovoj osnovi“.

Sortor je na još jedan način izneo istu tvrdnju, upozoravajući da ne bi trebalo samo da jurimo za sve većim kontekstom, a da pritom sami nemamo razvijen i sofisticiran način razumevanja konteksta.

„Izazov nije u tome koliko informacija sistem može da zadrži. Pitanje je da li arhitektura obezbeđuje dovoljno konteksta da signal dobije smisao – ali ne toliko da taj signal bude zatrpan“.

Postavljanje pitanja

Među brojnim pitanjima koja je Sortor postavio, retorički, dok je objašnjavao ovaj pristup veštačkoj inteligenciji i kontekstu, izdvojio bih nekoliko koja su međusobno povezana.

„Sada, uz veštačku inteligenciju, mnogo toga može postati predmet svesnih i namernih odluka u dizajnu sistema“, rekao je. „Šta se pronalazi? Šta se filtrira? Koji podaci koji se ne uklapaju u dominantnu sliku opstaju? Koja neizvesnost dolazi do operatera? Sve su to odluke koje spadaju u inženjering konteksta“.

Zaista mi se dopala sledeća Sortorova izjava, jer veoma precizno pogađa suštinu šireg argumenta:

„Ako na kontekst budemo gledali kao na automatski nusproizvod sve većih modela, nećemo eliminisati istorijske propuste u obaveštajnom radu – samo ćemo ih izvršavati brzinom računarske obrade“.

To zvuči kao veoma vredna lekcija. Nadam se da lideri u ovoj industriji obraćaju pažnju.

Razvijanje našeg pristupa

Na kraju svog izlaganja, Sortor je prethodne argumente objedinio u svojevrsnu završnu tezu.

„Sledeća prednost u oblasti odbrane neće proisteći iz toga što ćemo veštačkoj inteligenciji dati još više informacija“, rekao je. „Proisteći će iz osmišljavanja i projektovanja konteksta koji informacije pretvara u ispravno značenje. Verujem da je taj posao sada od ključnog značaja za nacionalnu bezbednost“.

Ovo su važne smernice za svakoga ko pokušava da pomoću veštačke inteligencije postigne rezultate od ključnog značaja za određenu misiju ili zadatak. Da, sistemi jesu „pametni“, ali i mi moramo biti pametni, jer su za sada ljudi i dalje za volanom.

I želimo da tako i ostane.

Džon Verner, saradnik Forbes