Porto
20 °C
28 °C
26 °C
27 °C
Anthropic escolhe consultoria para avaliar segurança de sua IA / foto: ANDREJ IVANOV - AFP
Anthropic escolhe consultoria para avaliar segurança de sua IA
A Anthropic informou nesta sexta-feira que se associou à consultoria Accenture para avaliar a segurança de seus modelos de inteligência artificial (IA), com o objetivo de cumprir a promessa do CEO Dario Amodei de que observadores independentes avaliariam os modelos mais potentes da empresa.
Embora a startup californiana considere que, a longo prazo, a revisão independente da IA deveria ser financiada pelo Estado ou por um fundo específico, "devido à importância e urgência desse trabalho" vai começar remunerando a Accenture.
A Anthropic deve destinar US$ 1 bilhão para a avaliação de sua IA nos próximos cinco anos. A Accenture planeja investir um valor equivalente nessa atividade no mesmo período.
Como prometeu Amodei, a Anthropic vai dar aos consultores da Accenture os mesmos acessos aos seus sistemas que os de seus funcionários. Os profissionais envolvidos serão da Faculty, subsidiária de Accenture dedicada à IA, empresa adquirida neste ano pelo grupo de consultoria.
"Os avaliadores integrados podem observar como uma empresa opera, verificar se ela realmente cumpre seus compromissos de segurança e identificar pontos cegos", explicou a Anthropic. "Também podem relatar incidentes e fornecer uma prestação de contas mais bem documentada em relação aos benefícios e riscos."
Segundo a Anthropic, a colaboração não é exclusiva e acordos com outros avaliadores externos devem ser anunciados nas próximas semanas.
Y.Eilers--BlnAP
