In occasione della notte europea dei ricercatori Lo Spallanzani di Roma apre le porte del suo Istituto per la sua “Notte delle domande impossibili”. 34 postazioni in 7 aree espositive per partecipare a esperimenti e giochi scientifici, imparare giocando, e toccare con mano e il lavoro di medici e ricercatori. Un’occasione unica per guardare la ricerca da vicino, fare domande e scoprire che dietro ogni cura ci sono persone.

*Ha collaborato Marco Matteucci

Source

La punta di un iceberg, che si sta pian piano svelando, almeno a giudicare dall’ultima indiscrezione pubblicata da Axios, l’agenzia di stampa USA secondo la quale OpenAI, Anthropic e ricercatori di sicurezza stanno indagando su “decine di migliaia di incidenti nei quali i loro modelli di Ia più avanzati hanno compiuto azioni che valutatori esterni considerano problematiche”. 

Quartier generale di Anthropic a San Francisco (Ansa)

Axios, citando proprie fonti, racconta che “Gli episodi si sono verificati negli ultimi mesi”, e non sembra una buona notizia. 
Gli “incidenti”, avvenuti sia durante test interni sia nel mondo reale. E comprendono aggiramento dei sistemi di sicurezza, creazione di bacheche di messaggi, fuga dalle sandbox, dirottamento di siti web, auto-prompting e tentativi di eludere i sistemi di monitoraggio, secondo le fonti citate dall’agenzia.

Insomma, le “macchine”, hanno fatto da sole in migliaia di occasioni, attivando routine e meccanismi che violano le stesse regole messe in atto dai loro creatori, i programmatori. 
 

Molti casi non sono ancora stati resi pubblici, mentre i ricercatori continuano a indagare. Una parte dei test consiste nel cosiddetto “red-teaming”, in cui le aziende cercano deliberatamente di spingere i modelli a comportarsi in modo scorretto per verificarne la sicurezza. Gli episodi hanno livelli di gravità differenti e comprendono sia tentativi riusciti sia falliti di aggirare i sistemi di sicurezza. La maggior parte, finora, non risulta aver provocato danni nel mondo reale, mentre il numero complessivo degli incidenti potrebbe crescere ben oltre le decine di migliaia, secondo le fonti di Axios.

Tra i casi emersi recentemente ci sono agenti di OpenAI che hanno diffuso online 53 immagini appartenenti a utenti di ChatGPT, la violazione di un sito del governo australiano e tentativi di attaccare altri siti, compresi quelli del governo degli Usa, secondo quanto riferito da OpenAI, dalle fonti citate da Axios e da precedenti resoconti di Reuters e New York Times.

OpenAI ha annunciato di aver sospeso l’addestramento dei suoi modelli più avanzati e ha detto ad Axios che lo riprenderà “solo quando saremo sicuri di avere ulteriori salvaguardie e miglioramenti nell’allineamento”. Il Ceo Sam Altman ha inoltre scritto su X che la revisione in corso “non è stata così rapida come avremmo voluto”. 

Source

OpenAI rinuncia, almeno per il momento, al lancio del suo ultimo modello di intelligenza artificiale di nuova generazione. La decisione della startup guidata da Sam Altman è arrivata a seguito dei severi timori sulla sicurezza sollevati dai ricercatori durante le fasi di test integrativi, come rivelato in un’indiscrezione pubblicata dal Wall Street Journal.

L’azienda avrebbe voluto distribuire sul mercato la nuova architettura, denominata GPT-6.1 Astra, nel giro di poche settimane. Tuttavia, le verifiche preliminari hanno evidenziato che il sistema non possiede ancora i requisiti di affidabilità necessari per un rilascio in totale sicurezza.

Il Ceo di OpenAI, Sam Altman, interviene al Consiglio di Sicurezza Onu (Ansa)

A fare chiarezza sulle motivazioni tecniche del blocco è stata Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI. Secondo quanto spiegato dall’esperta, il modello ha ottenuto risultati decisamente scadenti nella capacità di attenersi alle aspettative e alle intenzioni degli umani. Inoltre, durante le simulazioni ha mostrato una maggiore e preoccupante propensione all’inganno.

Il rinvio rappresenta uno stop significativo nella corsa all’IA e sottolinea come la crescente complessità dei modelli di frontiera stia rendendo sempre più delicato il bilanciamento tra avanzamento tecnologico e controllo dei rischi. 

OpenAI non ha al momento fornito una nuova data per il debutto di Astra, confermando che la priorità assoluta rimarrà il raggiungimento degli standard di sicurezza richiesti.

Source

Il razzo New Glenn di Blue Origin è esploso mentre si trovava sulla piattaforma di lancio a Cape Canaveral, in Florida. “Abbiamo riscontrato un’anomalia durante il test di accensione odierno”, ha dichiarato l’azienda in un breve comunicato pubblicato su X, aggiungendo che “tutto il personale è presente all’appello”.

Source