Transkript je nastao automatskim prepoznavanjem govora i potom jezično dotjeran radi čitljivosti — poštapalice su uklonjene, a gramatika i interpunkcija sređene. Formulacije se zato mjestimično razlikuju od izgovorenog. Mjerodavan je zvučni zapis.
0:01Željko HrvatIde emisija Pod zvijezdama. Nećemo naravno biti tako uvjerljivi, možda ni toliko zanimljivi kao kad je Korado tu, ali evo, Ivica Šuran je s nama u studiju. Ivice, da vidimo kako ćemo to sad odraditi bez Korada. Ima jedna tema o kojoj možemo pričati danima, reći ćemo mi onako najbolje što znamo o tome, a vjerojatno će biti zanimljivo i slušateljima.
0:28Ivica ŠuranDa, ti mi postavljaš pitanje. Dobra večer svima. Korado nam je nedostupan. Brzo će se javiti, pa ćemo ga uključiti ako se uspije spojiti. Ono u čemu sam možda stručniji nego u astronomiji, to je informatika, tako da današnja tema će biti AI. Povući ćemo i paralelu AI-a s astronomijom, odnosno što se događa u tom dijelu. Ja nisam toliki pesimist koliko je Korado inače vezano uz AI i budućnost AI-a, kraj svijeta, jer ga vidim možda iz nekog drugog kuta. S AI-om radim svaki dan i onda znam da koliko on potencijalno može donijeti loših stvari, isto tako može ustvari napraviti jako puno dobrih stvari. Tako da je moje viđenje AI-a i budućnosti nešto pozitivnije nego što je to Koradovo, ali svakako treba biti oprezan.
1:14Željko HrvatDakle, nekako se uvijek provlači za sve ljude koji koriste AI to da je to alat i da taj alat u mnogome pomaže u raznim stvarima kojima se čovjek bavi. Danas je to i kodiranje, i kreativa, i mnogi drugi poslovi, tipa sumiranje nekih rezultata i tako dalje. Doista je alat. Ne treba nikoga strašiti ni plašiti. Većina toga što vidite, možda na YouTubeu, što vidite na društvenim mrežama, ako je u nekom katastrofičnom obliku, onda je to poprilično marketinški dio koji zapravo želi skrenuti pažnju na sebe. To je nešto o čemu danas svijet priča. To je nešto što je oko nas. Ako imate Viber, već imate, naravno, i tu AI alate. Ako imate bilo koji komunikacijski uređaj, AI alati su prisutni, i naravno da će svaki dan to biti sve više i više, pa čak i u nekim običnim uređajima koje koristimo doma. AI alati će sve više i više ulaziti u naš život. Ono što mene konkretno, Ivice, zanima jest to da se svi oni koji su na neki način protiv AI-a — iako kažu umjetna inteligencija, nema to baš neke veze s umjetnom inteligencijom, znaš i sam da su to, dakle, veliki jezični modeli — obično ismijavaju kad netko nešto napravi po tom pitanju i kažu: "A, to je AI slop, to je nešto što je napravila umjetna inteligencija i to nije na razini čovjeka", ali nije ni poanta da bude na razini čovjeka.
2:48Ivica ŠuranDa, u mnogome je puno bolji od čovjeka, to moramo znati. Ono što se zapravo dogodilo na početku AI hypea, odnosno kada je AI izašao, jest da je dosta griješio. I to je ljude obradovalo, jer uvijek kad se pojavi netko bolji od nas ili netko tko zna više, uvijek smo malo ljubomorni prema njemu. I onda, ipak, taj AI nije toliko pametan, nije toliko dobar, i onda su se uzimale anegdotalne situacije gdje je on odgovarao loše na pitanja koja su bila nama kao ljudima sasvim jasna, i jako su se u tom dijelu onda odustali od AI-a. To se nije dogodilo na malom broju mjesta. To se dogodilo na velikom broju mjesta, čak i kod ljudi koji shvaćaju kako to funkcionira. Ali napredak je nevjerojatan. Ono što moramo znati jest da je AI jezični model, to je algoritam koji odgovara na pitanja s onime što ima u bazi podataka. Znači, on ne može reći nešto, odnosno može izmisliti nešto, ali ne može reći nešto što nije negdje naučio. To su modeli koji su naučeni s jako velikom količinom podataka i onda na osnovu tih podataka, u odnosu na naše pitanje, on pretpostavlja koja bi sljedeća riječ trebala najvjerojatnije biti. Znači, on samo procjenjuje kolika je vjerojatnost da bi neka riječ trebala biti sljedeća, i to onda ispada kao rezultat jako smisleno. Ono što moramo znati jest da je AI strašno napredovao u zadnjih šest mjeseci, pogotovo u nekim dijelovima koji se, recimo, tiču programiranja, tehnike, matematike, znanosti koje su egzaktne i gdje ga vi punite svojim informacijama. AI je nevjerojatan alat — nešto što smo mi, IT-jevci, informatičari, radili mjesecima, sad radimo u satima. Znači, to više nije nešto što sam radio trideset dana, sad napravim u jedan dan. Nešto što sam radio tri mjeseca, sad napravim u tri sata. Znači, taj skok u toj grani stvarno je nevjerojatan, koliko se to dogodilo. Svi oni kojima AI ne utječe toliko na posao, gdje AI još ne utječe toliko na posao, to ne vide i ne osjećaju koliko to zapravo osjećaju programeri, informatičari. Ne samo u programiranju, nego u upravljanju bazama podataka, instaliranju računala, rješavanju problema. Svi ga koriste možda na nekoj površnoj razini, ali ono što morate znati jest da je skok, ukoliko ga vi naučite svojim podacima, napunite svojim podacima i onda te podatke koristite za ono što radite, da to više nije usporedivo s onim što je bilo prije mjesec dana. Znači, zadnji modeli koji su izašli rade puno bolje. Puno su precizniji, puno manje griješe. I uvijek morate biti oprezni. Ako ga pitate nešto za što je informaciju potražio na internetu, reći će vam ono što je tamo našao i što pretpostavlja da je istina, ali ne mora biti. Znači, ako sam ja u bazu podataka stavio same neistine, on će na pitanje što se tamo nalazi odgovoriti neistinom, i to je ono kod čega morate biti oprezni pri korištenju tog alata. Ali alat je dobar, pogotovo sad kad počne ulaziti u uređaje, u automobile, u prometne znakove, u semafore, u kosilice, bilo gdje ide. Prije se, recimo, obrađivalo kamere na kojima morate prepoznati da se nešto dogodilo — on to sada napravi bez ikakvih problema. Dok smo prije pisali algoritam tri, četiri, pet, šest mjeseci da vidimo je li se, recimo, na tom dijelu ceste dogodila nesreća, on to sad odradi odmah i ne košta nas ništa. Znači, alat je fantastičan, pogotovo za one koji ga znaju koristiti. Njime je produktivnost strašno porasla, ali s druge strane, puno ljudi koji su se bavili, recimo, programiranjem i samo time, ostali su bez posla. I to se u informatici strašno puno osjeti. Koliko to ljude koji nas slušaju vjerojatno ne pogađa i to ne primjećuju — mi koji smo u IT-ju znamo da je grani koja se bavila direktno i striktno programiranjem, ukoliko su ostali bez posla, danas teško ili nemoguće naći drugi. Onaj hype koji je bio, recimo, prije par godina kad je bila korona, kad su se svi zapošljavali kao informatičari, kad su svi odlazili u informatiku — danas ta djelatnost, i da netko sad ide studirati programiranje, ja bih mu rekao: ostavi se toga, to više ne postoji.
6:54Željko HrvatDa, manje-više zapravo sve što se tiče kompjutera. Znači, bilo koja radnja da se radi na kompjuteru — znači, u nekakvom standardnom programu koji koristite, da li Word, da li koristite Excel, da li koristite bilo što vezano danas uz vaš posao — ako AI to preuzme, a može preuzeti, naravno, ako mu vi date dozvolu i kontrolu nad time, vaš rad će postati sto posto brži. Znači, jednostavno, nitko vam ne može konkurirati, ovisno o tome koristite li taj alat ili ne koristite. Dakle, preporuka je svima onima koji danas još uvijek malo zaziru od toga da što prije zapravo počnu se nekako osvještavati i počnu zapravo možda smislenije i inteligentnije koristiti taj alat, a ne samo tipa chatbot gdje ćete vi tražiti nekakve podatke, jer doista, stvari koje današnji modeli mogu raditi, zadnji kao što su Fable 5, Claude ili ChatGPT-ov Sora koji je izašao van — to je nešto za što jednostavno nikad nismo mogli misliti da će se dogoditi, pogotovo po pitanju kreative. Znači, ako ste vi zapravo trebali, ne znam, nekada kameru — trebali ste cijelu ekipu ljudi da vam dođu na set, da vam nešto snime, da vam nešto naprave, pa to traje sedam dana. Danas vam to doslovno može biti gotovo u par sati. Za ljude, naravno, koji znaju koristiti taj alat.
8:21Ivica ŠuranDakle, ne može svatko. Ja sam mislio da će sad svi početi programirati i raditi programe, a onaj tko za to nema žicu, neće to ni početi raditi. Jednostavno, to nije baš jednostavno. Morate poznavati arhitekturu, što je računalo, što je baza podataka, što je internet, gdje se to nalazi, da biste to napravili smisleno i dobro. A ne samo to – oni koji se bave UX dizajnom sad su, recimo, puno bolji programeri od samih programera. Programeri su bili u tom dijelu dosta šlampavi. Oni su radili dobre programe, ali nikad nisu gledali na to koliko je to user friendly, koliko je to korisno, koliko je jednostavno, nego su radili po nekakvoj svojoj ideji kako bi to trebalo izgledati. A danas se oni koji su se bavili dizajnom mogu odmah prebaciti na programiranje. Znači, bili su dizajneri koji su radili UX. Danas dizajner ne mora više raditi samo UX, nego može raditi cijele aplikacije bez ikakve edukacije. Netko im to, naravno, mora na početku postaviti, staviti na server, omogućiti da mogu pisati, odnosno razgovarati s Claudeom, s ChatGPT-om, odnosno s bilo kojom od tih aplikacija koja služi za izradu aplikacija. I to funkcionira. Ono gdje se sad događa dosta velik problem i gdje morate biti jako oprezni jest cyber security. To je strašno dobar alat za one koji ga žele krivo iskoristiti. Recimo, AI se sad stavlja u dronove, primjerice u Ukrajini, koji napadaju, pa više ne morate upravljati njime preko satelita, nego mu se kaže: čim dođeš tamo, čim vidiš neku osobu, pucaj. Isaac Asimov je u Zadužbini pisao o tri robotska zakona – ne smiješ povrijediti čovjeka. To se nije dogodilo. U svako oružje koje mogu, oni stavljaju AI koji puca na sve što se miče, i njima više nije potrebno da imaju ikakvu vezu s tim dronom koji pošalju na bojište. Oni ga pošalju na određenu točku gdje znaju da su neprijateljske brigade i kažu: čim vidiš da je to čovjek, odmah ga upucaj. Znači, nema tu razmišljanja, nema nikakve etike, nema nikakve dileme u što ćeš pucati, nego – ti si došao tamo. Nema više ni komunikacije s tim dronom koji leti prema tebi, nego on ima stroge naredbe. Ne mora pitati smije li pucati ili ne, nego dođe tamo, prepozna koja je osoba, gdje se nalazi, što radi, i sa svojim aplikacijama, sa svojim AI-jem koji se nalazi u samom dronu, može raditi čuda u tom dijelu. Ista stvar je i cyber security. Strašno je velik broj napada otkad se AI počeo tako razvijati. Znači, koliko je prije bilo teže napraviti nekakav hakerski program da se upadne u neke sustave, danas je to puno jednostavnije. Istina, svi veliki alati imaju zaštite – ne možeš pitati ChatGPT: "Ajde, napravi mi program da upadnem u tvoje računalo ili u tvoj mobitel", nego on kaže: "Ne mogu, imam zaštitu." Ali postoje drugi alati, dostupni onima koji pišu zlonamjerni softver, koji su isto tako dobri. Znači, on danas može napraviti sljedeće: "Evo, Željko mi je meta. Idi pogledaj malo što je Željko ikad objavio na Facebooku i napravi mi njegov psihološki profil da vidimo kako bismo mu se najlakše približili." "Željko ima nonu, mamu, tatu koji su bolesni, hajmo preko toga" – i onda mu se točno slaže, znači, direktan privatan napad na tebe, i to tako da se može uzeti tvoj glas s radija, napraviti tvoju kopiju i zvati tvoju nonu i reći: "Ej, Željko je završio u bolnici, brže-bolje, uplati petsto eura da bi ga se izliječilo." I to se radi – ne jednostavno, ali samim razgovorom s tom aplikacijom. S druge strane, to je isto tako savršen alat, recimo, za obranu. Prije, kad sam imao nekakav hakerski napad na nekom serveru, gubio sam tri, četiri, pet dana da bih uopće detektirao što se dogodilo. Onda je bila forenzika, pa sam cijele noći proučavao gdje je upao unutra, kako to zakrpati. Nakon što sam zakrpio, morao sam još provjeriti je li negdje posadio te programčiće koji se poslije mogu ponovno aktivirati. A danas mi je to, znači, dvije ili tri rečenice razgovora s agentom koji tamo čuči i brani taj server i moje računalo. Kao što prije niste imali – morali ste imati antivirusni program koji je branio vaše računalo, danas se to zapravo prebacuje na to da morate imati agenta koji brani vaše računalo. Znači, imaš agenta koji napada, ali imaš i agenta kod sebe koji brani, i koji je za sada bolji od onih koji napadaju, s obzirom da je učen na puno većoj količini podataka pa se to da spriječiti. Ali ono što sam još htio reći – aplikacije zapravo nestaju. To je ono što morate znati. Neće više biti Vibera, WhatsAppa, neće više biti Outlooka, Chromea, Googlea. Kao što je Google nestao – prije smo guglali, danas sve pitamo ChatGPT, odnosno mi u IT-u više manje-više ne guglamo. Isto tako, aplikacije zapravo nestaju jer vam bilo koju od tih aplikacija simulira agent. On postaje i WhatsApp, on se prijavljuje umjesto vas na eGrađane, gleda sve vaše mailove iz prošlosti, i onda normalno razgovarate s njime: "Kad mi je Željko poslao mail prošli tjedan, što je htio? Trebam li danas nekom odgovoriti na mail?" Znači, nema više toga da moram pretraživati svoj inbox i to tražiti, nego se jednostavno razgovara s agentom koji – što ga više učite, to više zna o vama i počinje već prediktivno djelovati. On vam kaže: "Danas bi trebao to napraviti", bez da ste ga vi tražili: "Podsjeti me da danas to trebam napraviti", jer količina podataka koju unesete o sebi jednostavno je dovoljna da on točno zna što mora napraviti u tom trenutku. Tu se uvijek postavlja pitanje privatnosti – koliko on zna, koliko se to dijeli s onime tko je napravio tog AI-ja. To se da zaštititi, ali se isto tako može i iskoristiti, tako da opreza nikad dosta. Ali AI, pogotovo vaši osobni AI agenti, nešto su što se uči, i oni su za sada još uvijek savršeno etični. Znači, ja barem nisam našao neki AI koji radi nešto, a da to nije pozitivno i dobro.
14:07Željko HrvatAko se želite doista malo dublje upustiti u tu priču, onda vam je, recimo, zadnje što je vrlo zanimljivo, Grok Bot. Dakle, to vam je od Elona Muska, xAI, gdje vi zapravo možete cijelu strukturu agenata postaviti, svakome dati određeni zadatak, svakome reći za što je zadužen. Tako da zapravo imate deset agenata koji vam strukturom mogu raditi zamjenu za puno poslova. I ne samo to da vi zapravo komunicirate s tim agentima, već ti agenti međusobno komuniciraju. Znači, možete jednom agentu dati nekakvu supervizorsku ulogu i onda taj supervizor dalje određuje poslove drugim agentima. Mislim, kažem, stvari su doista kao iz znanstvene fantastike, ali tu su, dostupne su svakome. I zapravo, ako želite, doista možete, i bilo bi, naravno, dobro. Ono što je isto tako jedna stvar koja meni pomalo smeta jest to da se velik broj ljudi, milijuni, možda čak i milijarde, zapravo dnevno služi umjetnom inteligencijom, ali to ne žele priznati. Znači, doslovno danas svatko može biti pametan, a onda kada treba netko reći da je to napravljeno umjetnom inteligencijom, neće to označiti ili napisati. Ali to je stvar koju se očigledno mora napraviti i bit će sve više i više prisutno da se ono što je napravljeno umjetnom inteligencijom na taj način i označi.
15:40Ivica ŠuranDa. Ono što je veliki problem kod AI-ja jest da je on ukrao sve te podatke. Sve to znanje koje je on zapravo skupio kod sebe netko je napravio, netko je napisao te znanstvene radove, netko je napisao taj članak u novinama, netko je napisao knjigu, a oni su to jednostavno pokrali, stavili u svoju bazu podataka i koriste kao svoje znanje, što je neetično, nelegalno, nelegitimno. Odnosno, legalno možda i jest, s obzirom na to da nije postojao zakon koji to sprječava, ali to je dosta veliki problem u tom AI svijetu. Taj dio ne znam kako će se riješiti i na koji način će se rješavati. Hoće li te velike kompanije koje sad zarađuju velike milijarde dolara isplaćivati svima onima koji su zapravo doprinijeli tom znanju, nisam siguran i ne znam hoće li se to dogoditi. Recimo, sad su imali onaj veliki matematički problem koji su riješili s ChatGPT-jem, i onda ispada da su možda i koristili podatke tih matematičara koji već rade na tom problemu, pa su sva njihova znanja zapravo iskoristili da bi taj njihov alat riješio te velike matematičke probleme. Nije čisto. Ima jako puno stvari koje se još štimaju i koje se daju doraditi, ali kao alat, za sada je fantastičan. Što se tiče toga kad koristimo AI i budemo pametni s njim — mi u IT-u, recimo, već dosta dugo ga koristimo, možda više nego ostatak populacije — onda toga više nema. Ja znam kad je netko napisao članak koji je pisan uz pomoć AI-ja, jednostavno po iskustvu ne možeš... Do danas sam slao mailove gdje sam pisao "bok, sve okej", ali odjedanput netko šalje "poštovani" i to u pet, šest redaka. Onda se odmah shvati da to nije njegov mail, da nije to njegov osobni mail. I onda zapravo ono što je prije bilo smatrano kako bi trebalo pisati mailove, sad shvatiš da se odjedanput promijenilo, znači više ne razgovaraš sa živom osobom, i to je stvar koju se mora držati pod kontrolom. Znači, AI je alat, ali morate biti prisutni kao osoba. On će vam ubrzati posao, ali ne možete mu u potpunosti prepustiti da radi, pogotovo neke osjetljive stvari. Sve ono što je automatizirano, gdje se postavlja pitanje koje je već tisuću puta bilo postavljeno, to može odgovoriti bot. Okej je da to odradi bot, ali ako dođemo do nekog problema gdje biste vi morali donijeti odluku između dvije slične stvari, tada morate koristiti svoje znanje i dati svoj doprinos u svemu tome. AI je super alat, jako dobro se može koristiti. Sad, što će se dogoditi s budućnošću AI-ja, teško je predvidjeti. Botovi su sve inteligentniji, sve pametniji. Oni razgovaraju međusobno. Znači, ja imam jednog agenta na jednom serveru, jednog agenta na drugome, i onda kažem: "Kaži ovome što smo ovdje napravili, objasni mu što smo radili." On direktno zove tog bota tamo i kaže: "Pazi, imali smo ovaj hakerski napad. Sad ću ti objasniti što smo napravili da spriječimo da taj uđe unutra." Znači, bez moje neke dodatne kontrole. I za sada se još nije pokazalo da sam u nekom trenutku pogriješio što sam im dao toliko velika ovlaštenja na nekim dijelovima, ali uvijek treba biti oprezan, znači.
18:44Željko HrvatDa. Jedna stvar zapravo koja možda nekako ljudima promiče jest to da ako nekako kroz taj dnevni tisak, dakle bilo da online ili kako god preko društvenih mreža dolazite do tih informacija, onda zapravo ne shvaćate — ako se time ne bavite, nego, kažem, samo primate informacije — onda zapravo ne shvaćate koliko se zapravo brzo stvar mijenja. To je nešto nevjerojatno koliko ti modeli iz mjeseca u mjesec zapravo napreduju, i ono što bi čovjek možda mogao reći jest da su svi oni koji se još nisu s time počeli baviti zapravo zakasnili i da je krajnje vrijeme.
19:20Ivica ŠuranDa, s tim da to je odličan alat, ali pazite. Ovaj alat koji koristimo za svakodnevne stvari, znači kad ga ne koristite za posao kao recimo mi, ili koji nije napunjen podacima koje ste vi unijeli, uvijek budite oprezni. Znači, to je isto kao prije kad ste guglali, pa ste dobili krivu informaciju. Na isti način možete dobiti krivu informaciju i tamo. On je super alat, recimo u medicini je fantastičan alat, ali morate znati tematiku o kojoj se radi, jer vam on može dati potpuno krivi odgovor s obzirom na to što se nalazi na internetu. Vaši simptomi mogu odgovarati nekoj sasvim petoj bolesti i onda vam da savjet koji je krivi. I tu morate biti jako skeptični prema njemu. Alat koji koriste oni koji su zapravo stručni puno je bolja ideja, puno bolja stvar, kao alat sam po sebi, nego da ga koristite u svemu, pa i u onome što uopće ne poznajemo. Znači, to je onaj dio gdje moram napomenuti da ako ga koristite za takve stvari, budite jako oprezni, pogotovo recimo kad je riječ o medicini. On je super alat gdje mu daš krvnu sliku, pa ti on protumači ljudskim jezikom što ti je, a ne da sad moraš dešifrirati njihove skraćenice, nego ti to napiše na razumljiv način, i to napravi dobro. Ali kad su u pitanju sljedeći koraci, tu budite oprezni.
20:36Željko HrvatImate još jednu stvar koja je isto tako jako bitna i važna. Možete pronaći te nekakve trikove i kodove koji vam mogu puno pomoći, a ta je da su zapravo ti modeli trenirani da ih vi koristite. I obično, ako ih koristite, dobit ćete uvijek varijantu tipa: "Ok, to smo sad napravili. Mogu ti napraviti još i ovo, mogu ti napraviti još i ovo." Znači, jednostavno vas vuče da vi dalje komunicirate s tim alatom, dakle s LLM-om ili ChatGPT-jem, obično ako je to ljudima nekako najpoznatija priča. Međutim, određeni modeli su trenirani tako da idu, onako ću reći, niz vodu, da idu vama u korist, upravo da se ne svađaju s vama, da ne dolaze u sukob s vama. I to onda može biti jako loše, zato što recimo vi tražite nekakvu analizu nečega i kažete: ja bih to htio tako i tako, a ne date nekakav kritički osvrt na to. Onda će vam on povlađivati i govoriti da je to što vi radite najbolja stvar.
21:35Ivica ŠuranDa, to se uvijek radi tako da ga se instruira, da mu dajete instrukcije kada razgovarate s njim. Što bi ti, recimo, napravio s obzirom na dosadašnje iskustvo u razgovoru sa mnom? E sad se stavi u potpunu negativnost. Reci mi sve što je krivo u tome što radim. I onda on bude iskren. Znači, nema zavlačenja, on će dati odgovore. Recimo, idete na prekršajni sud, imate kaznu za brzinu ili vas je ulovila kamera. I onda kažete: "Napiši mi neku super žalbu." E sad mi daj varijantu što će mi zapravo sudac reći, da se mogu pripremiti, što će me on tamo pitati i na koji način će me sve napasti. I onda to je dobar alat. Znači, uvijek to kritičko razmišljanje, koje se danas ne uči baš kod klinaca, trebalo bi imati aktivno. Znači, škola bi se sad trebala u potpunosti preobraziti da se zna koristiti takve alate, ali teško je. Mi kasnimo. Ni profesori još ne poznaju te alate, što sve mogu, što ti alati jesu. Znači, prije, kad nije bilo znanja, logično je bilo da učimo nekakve činjenice iz knjiga, ali danas bi zapravo trebalo raditi projektno, da se kroz projekte uči teorija uz korištenje tih alata.
22:42Željko HrvatAko mislite da će AI nestati, neće. Dakle, krenite, počnite se obrazovati i što više koristiti ovo. Korado nam je očigledno tu sad negdje. Halo, Korado? Ne, nije, ali neki drugi su nam na liniji. U svakom slučaju, evo, mi smo nekako završili ovu emisiju "Pod zvijezdama". Ivica, hvala lijepa. Danas smo, dakle, radili temu AI i to je nešto neiscrpno. Mogli bismo napraviti serijal ovih emisija, ali evo, stigli smo do kraja. Čujemo se sljedeće srijede ponovno u sedamnaest i trideset.
23:16Ivica ŠuranJoš u ovoj turi nismo spomenuli astronomiju, ali AI se koristi strašno puno u astronomiji. Ugodnu večer, Konradu, čujemo se ako nas slušate.
23:26najavaEmisija je sufinancirana sredstvima Fonda za poticanje pluralizma i raznovrsnosti elektroničkih medija. Radio Istra.