Tag: Anthropic

  • OpenAI, Anthropic e Google DeepMind: uniti per la sicurezza dell’IA

    OpenAI, Anthropic e Google DeepMind: uniti per la sicurezza dell’IA

    In Breve

    Qual è l'obiettivo della collaborazione tra OpenAI, Anthropic e Google DeepMind?
    Affrontare i problemi di sicurezza legati all'intelligenza artificiale.
    Chi ha proposto di limitare lo sviluppo di sistemi avanzati?
    Dario Amodei, amministratore delegato di Anthropic.
    Qual è la posizione di OpenAI riguardo alle norme antitrust?
    OpenAI non ritiene necessaria una deroga alle norme antitrust per la collaborazione.

    OpenAI ha avviato un dialogo con Anthropic e Google DeepMind per affrontare le crescenti preoccupazioni riguardanti la sicurezza dell’intelligenza artificiale (IA). Chris Lehane, responsabile delle politiche globali di OpenAI, ha confermato che le discussioni sono in corso da diverse settimane. Durante un briefing a Washington, Lehane ha sottolineato che non è necessaria una deroga alle norme antitrust per coordinarsi sui temi di sicurezza, affermando: «È meglio cercare di lavorare insieme per dare priorità alla sicurezza».

    La necessità di tale collaborazione è diventata ancora più evidente dopo la pubblicazione di un saggio da parte di Dario Amodei, amministratore delegato di Anthropic, che ha sollevato l’allerta sui rischi esistenziali legati all’IA. Amodei ha proposto di limitare lo sviluppo dei sistemi più avanzati per permettere ai ricercatori di comprendere meglio le potenziali minacce. Questo appello ha trovato un immediato supporto da parte di figure di spicco nel settore, tra cui Sam Altman, amministratore delegato di OpenAI, e Elon Musk, a capo di SpaceXAI.

    La crescente preoccupazione per la sicurezza dell’IA è un tema caldo nel dibattito pubblico e politico. Le aziende coinvolte si trovano a dover bilanciare l’innovazione con la responsabilità, e la collaborazione tra di loro potrebbe rappresentare un passo fondamentale per garantire che lo sviluppo dell’IA avvenga in modo sicuro e controllato.

  • Allerta per furti di token su Claude: utenti segnalano consumi non autorizzati

    Allerta per furti di token su Claude: utenti segnalano consumi non autorizzati

    In Breve

    Cosa sta succedendo con i token di Claude?
    Utenti segnalano consumi non autorizzati e aumenti improvvisi nel consumo dei token.
    Quali misure ha preso Anthropic?
    Anthropic ha sospeso gli account compromessi e rimborsato gli utenti.
    Cosa causa questi furti di token?
    Si sospetta l'uso di malware e session key compromesse.

    Negli ultimi giorni, diversi abbonati a Claude, il modello di intelligenza artificiale sviluppato da Anthropic, hanno denunciato un incremento improvviso e non autorizzato nel consumo dei token associati ai loro piani. Alcuni utenti hanno osservato un utilizzo anomalo, anche in assenza di operazioni riconducibili ai titolari degli account.

    Un consulente indipendente ha riportato di aver notato consumi progressivi, nonostante avesse disattivato integrazioni e attività programmate. In seguito a queste segnalazioni, Anthropic ha sospeso l’account interessato, invalidato le sessioni e i token server-side di Claude Code, e ha proceduto a rimborsare parzialmente la quota residua dell’abbonamento. Tuttavia, l’interruzione del servizio ha avuto ripercussioni significative sull’attività professionale dell’utente, che utilizzava agenti basati su AI per compiti amministrativi e operativi. Questo ha spinto l’utente a considerare alternative, inclusi fornitori che offrono l’uso di più modelli, comprese opzioni open source più economiche.

    Anthropic ha identificato che l’uso di una session key compromessa era alla base della generazione di token OAuth di Claude Code. L’azienda ha ipotizzato che l’account fosse stato utilizzato da un servizio terzo non autorizzato, pur non riuscendo a stabilire con certezza come fosse avvenuto l’accesso. Le evidenze raccolte suggeriscono sia un furto di credenziali o dati di sessione, sia una connessione dell’account a servizi esterni.

    Altri utenti hanno riportato esperienze simili su forum pubblici e su GitHub, evidenziando addebiti e upgrade automatici non desiderati, oltre a consumi rapidi dei token senza alcuna attività da parte loro. In alcune comunicazioni inviate agli utenti interessati, Anthropic ha avvertito riguardo a malware di tipo “infostealer”, in grado di rubare sessioni di accesso dai computer e utilizzarle per consumare quota sugli account. L’azienda ha sottolineato che tale malware non è connesso all’uso del servizio stesso e può provenire da diverse fonti online.

    In presenza di attività sospette, Anthropic ha disconnesso gli utenti, invalidato le autorizzazioni e disposto rimborsi parziali. Tuttavia, la mancanza di un dettaglio itemizzato dei consumi rende difficile per gli utenti identificare quale attività abbia effettivamente consumato i token, lasciando aperta la possibilità che i furti possano continuare senza essere individuati per mesi. Alcuni utenti non hanno ricevuto avvisi di compromissione e non hanno trovato prove di malware sui loro dispositivi, rimanendo quindi senza elementi certi per determinare come sia stato ottenuto l’accesso.

    Alla richiesta di indicazioni su come riconoscere abusi simili, Anthropic ha preferito non rilasciare commenti.