treba i mora

OPENAI i google se hrane sa ovog foruma, njihovi botovi su neprekidno sa nama, čitaju i analiziraju. A koliko je tek onih koji to tajno rade.

Nisu se sami pokrenuli.

Jel ima kakvih kvalitetni AI da rade aplikacije ??

Želja mi je već duže vrijeme napravit App al je to za mene preskup Sport.

Mislio sam ono kao nešto raw, pa da to mogu skinut i poslat kao ponudu za ulaganje investitorima ako ih ima.

Nisam duboko u tome, ali znam da prijatelji programeri u zadnje vrijeme hvale Claude naveliko.

Claude i OpenAi (ChatGPT) Codex.

Evo Brane https://bubble.io/

Isprobo sam nekakvu jevrejsku "Base 44" prije 10-ak dana.

Ima AI za sva pitanja katoličke vjere, MAGISTERIUM.

Panika među bankama i ministrima zbog moćnog AI modela. "Ozbiljno shvatite opasnost"

MINISTRI financija, čelnici središnjih banaka i financijski stručnjaci izrazili su ozbiljnu zabrinutost zbog novog, moćnog modela umjetne inteligencije koji bi, kako kažu, mogao ugroziti sigurnost globalnih financijskih sustava.

Razvoj modela Claude Mythos, koji potpisuje tvrtka Anthropic, potaknuo je krizne sastanke nakon što je otkriveno da može pronaći ranjivosti u svim vodećim operativnim sustavima i internetskim preglednicima, piše BBC.

Stručnjaci upozoravaju da model posjeduje dosad neviđenu sposobnost identificiranja i iskorištavanja slabosti u kibernetičkoj sigurnosti. Kanadski ministar financija François-Philippe Champagne potvrdio je za BBC da se o Mythosu opširno raspravljalo na ključnom sastanku Međunarodnog monetarnog fonda (MMF) ovog tjedna u Washingtonu.

"Svakako je riječ o nečemu dovoljno ozbiljnom da zaslužuje pozornost svih ministara financija", rekao je.

"Za razliku od Hormuškog tjesnaca, za koji znamo gdje se nalazi i koliki je, problem s kojim se suočavamo s Anthropicom je potpuna nepoznanica", dodao je Champagne. "To zahtijeva veliku pažnju kako bismo uspostavili zaštitne mehanizme i procese koji će osigurati otpornost našeg financijskog sustava."

Vodećim bankarima bit će omogućen prijevremeni pristup modelu kako bi mogli testirati vlastite sustave. Izvršni direktor Barclaysa, CS Venkatakrishnan, izjavio je za BBC: "Stvar je dovoljno ozbiljna da bi se ljudi trebali zabrinuti."

"Moramo ga bolje shvatiti, razumjeti koje ranjivosti otkriva i brzo ih otkloniti", naglasio je, dodavši kako je to "novi svijet koji nas čeka", misleći pritom na znatno povezaniji financijski sustav koji donosi prilike, ali i nove opasnosti.

Iako je razvojni tim Anthropica objavio da je model već otkrio višestruke sigurnosne propuste u nekim ključnim operativnim sustavima, financijskim platformama i preglednicima, vladama i bankama nudi se pristup prije javne objave kako bi mogle zaštititi svoje sustave.

Guverner Banke Engleske, Andrew Bailey, rekao je za BBC da se ovaj razvoj mora shvatiti vrlo ozbiljno. "Moramo sada vrlo pažljivo razmotriti što bi ovaj najnoviji razvoj umjetne inteligencije mogao značiti za rizik od kibernetičkog kriminala", izjavio je.

"Postoji razvoj u umjetnoj inteligenciji i modeliranju koji olakšava otkrivanje postojećih slabosti u nekim ključnim informatičkim sustavima, a onda ih, naravno, kibernetički kriminalci, odnosno zlonamjerni akteri, mogu pokušati iskoristiti", pojasnio je Bailey. Ministarstvo financija SAD-a potvrdilo je da je o problemu razgovaralo s vodećim bankama, potičući ih da testiraju svoje sustave prije bilo kakve javne objave Mythosa.

"Prvi od mnogih"
Izvori iz financijske industrije navode da bi još jedna istaknuta američka tvrtka za umjetnu inteligenciju uskoro mogla objaviti slično moćan model, ali bez istih sigurnosnih ograda. James Wise, partner u Balderton Capitalu, rekao je da je Mythos "prvi od mnogih snažnijih modela" koji mogu otkrivati sistemske ranjivosti.

Wise predsjeda jedinicom Sovereign AI, fondom rizičnog kapitala koji će ulagati u britanske AI tvrtke, a koji je podržan s 500 milijuna funti državnih sredstava. Njegova jedinica "ulaže u britanske AI tvrtke koje se bave upravo time - tvrtke koje rade na sigurnosti i zaštiti umjetne inteligencije", rekao je za BBC. "Nadamo se da će modeli koji otkrivaju ranjivosti biti ujedno i oni koji će ih ispravljati", zaključio je.

Što je Claude Mythos?
Tvrtka Anthropic u utorak je predstavila napredni model umjetne inteligencije Claude Mythos Preview, no njegovu će dostupnost ograničiti na odabranu skupinu tvrtki unutar nove inicijative za kibernetičku sigurnost pod nazivom Projekt Glasswing. Iz tvrtke su pojasnili kako je model iznimno uspješan u identificiranju slabosti i sigurnosnih propusta u softveru te da ograničenjem pristupa žele spriječiti da tu sposobnost iskoriste zlonamjerni akteri.

U projektu sudjeluje i više od 40 drugih tvrtki, uključujući CrowdStrike i Palo Alto Networks. "Puno smo interno raspravljali o ovome", izjavila je za CNBC Dianne Penn, voditeljica upravljanja istraživačkim proizvodima u Anthropicu. "Ovo doista vidimo kao prvi korak kojim brojnim braniteljima u kibernetičkom prostoru dajemo prednost u području koje će postajati sve važnije."

Reakcija na medijske napise
Anthropicova objava uslijedila je nakon što je časopis Fortune prošlog mjeseca otkrio opise modela u javno dostupnoj bazi podataka. Nakon tog izvješća, u kojem je navedeno da model posjeduje napredne kibernetičke sposobnosti koje ujedno predstavljaju i značajan rizik, dionice tvrtki za kibernetičku sigurnost su pale.

"Opasnosti su očite ako pogriješimo, no ako postupimo ispravno, imamo stvarnu priliku stvoriti suštinski sigurniji internet i svijet nego što smo imali prije pojave kibernetičkih sposobnosti koje pokreće umjetna inteligencija", napisao je izvršni direktor Dario Amodei u objavi na X-u, pozdravljajući pokretanje Projekta Glasswing.

Sigurnost kao prioritet
Anthropic je 2021. godine osnovala skupina istraživača i direktora koji su napustili OpenAI zbog zabrinutosti oko smjera razvoja i stava tvrtke prema sigurnosti. Tvrtka je godinama pažljivo gradila reputaciju kao tvrtka posvećenija odgovornom uvođenju umjetne inteligencije, a Projekt Glasswing predstavila je samo nekoliko tjedana nakon što je u javnost dospio njezin sukob s Ministarstvom obrane oko sigurnosnih pitanja.

Iz Anthropica su poručili da su u "stalnim razgovorima" s dužnosnicima američke vlade o kibernetičkim sposobnostima modela Claude Mythos Preview. Prema riječima jednog dužnosnika tvrtke, to uključuje razgovore s Agencijom za kibernetičku sigurnost i sigurnost infrastrukture (CISA) te Centrom za standarde i inovacije u umjetnoj inteligenciji.

Projekt Glasswing
Penn je pojasnila da su se zaposlenici odlučili za naziv Projekt Glasswing kao metaforu, uspoređujući prozirnog leptira sa softverskim ranjivostima koje su "relativno nevidljive". Claude Mythos Preview može pronaći greške, od kojih su neke kritične, a koje je ranije bilo teško otkriti. U jednom je slučaju, navode iz tvrtke, model identificirao 27 godina staru grešku u operativnom sustavu OpenBSD, koji se, prema podacima na svojoj web stranici, ističe upravo sigurnošću.

U Anthropicu kažu da je Claude Mythos Preview model opće namjene koji nije bio posebno obučen za kibernetičku sigurnost, već njegove poboljšane kibernetičke sposobnosti proizlaze iz snažnih vještina kodiranja i zaključivanja. Tvrtka ne planira učiniti model široko dostupnim, ali cilj je naučiti kako bi s vremenom mogla implementirati modele klase Mythos u velikom opsegu.

Tvrtke koje sudjeluju u Projektu Glasswing bave se izgradnjom ili održavanjem ključne softverske infrastrukture, a Anthropic je naveo da će koristiti njihove modele kako bi pokušale osigurati i vlastite i sustave otvorenog koda. Za te je napore Anthropic dodijelio do 100 milijuna dolara u kreditima za korištenje, no partneri će korištenje modela iznad tog praga morati platiti.

Newton Cheng, voditelj tima za kibernetičku sigurnost Frontier Red Team u Anthropicu, rekao je da tvrtka želi da se partneri naviknu na korištenje ovih sposobnosti prije nego što postanu široko dostupne. Naglasio je da se pokušava izbjeći "nepromišljeno ili neodgovorno" objavljivanje modela koji bi protivnici mogli iskoristiti. "Kibernetička sigurnost jednostavno će biti područje u kojem ovako veliko povećanje sposobnosti nosi potencijalni rizik i stoga moramo vrlo pažljivo pratiti što se događa", rekao je Cheng u intervjuu.