A Agência de Segurança Cibernética e de Infraestrutura dos EUA (CISA), trabalhando com o Centro Nacional de Segurança Cibernética (NCSC) do Reino Unido e 21 outras agências de todo o mundo, publicou um conjunto de diretrizes para o desenvolvimento de sistemas seguros de inteligência synthetic (IA) – parte do acordo internacional conhecido como Declaração de Bletchley.
““Estamos em um ponto de inflexão no desenvolvimento da inteligência synthetic, que pode muito bem ser a tecnologia de maior importância do nosso tempo. A segurança cibernética é a chave para a construção de sistemas de IA que sejam seguros, protegidos e confiáveis”, afirma o secretário de Segurança Interna, Alejandro N. Mayorkas em apoio às novas diretrizes.
A CISA e o NCSC, trabalhando com outras 21 organizações internacionais, elaboraram um conjunto de diretrizes para uma IA “segura por padrão”. (📷: NCSC)
“As diretrizes emitidas hoje em conjunto pela CISA, NCSC e nossos outros parceiros internacionais”, continua Mayorkas, “fornecem um caminho de bom senso para projetar, desenvolver, implantar e operar IA com segurança cibernética em seu núcleo. , essas diretrizes representam um acordo histórico no qual os desenvolvedores devem investir, protegendo os clientes em cada etapa do projeto e desenvolvimento de um sistema. Por meio de ações globais como essas diretrizes, podemos liderar o mundo no aproveitamento dos benefícios e, ao mesmo tempo, abordar os danos potenciais desta tecnologia pioneira. .”
As diretrizes surgiram após o AI Security Summit no início deste ano, realizado no Bletchley Park, no Reino Unido – sede histórica da Estação X e de uma equipe de decifradores de códigos, incluindo Alan Turing, que trabalhou para quebrar a cifra alemã Enigma durante a Segunda Guerra Mundial. Como parte da cimeira, os participantes assinaram um documento político denominado Declaração de Bletchley, que apelava à cooperação na abordagem do “risco de fronteira da IA”. O seu primeiro resultado: um conjunto de orientações sobre o desenvolvimento de sistemas de IA seguros.
“O lançamento das Diretrizes para o Desenvolvimento Seguro de Sistemas de IA marca um marco importante em nosso compromisso coletivo – por parte de governos de todo o mundo – para garantir o desenvolvimento e a implantação de capacidades de inteligência synthetic que sejam seguras desde o projeto”, disse a diretora da CISA, Jen Easterly. “ À medida que as nações e organizações abraçam o poder transformador da IA, esta colaboração internacional, liderada pela CISA e pela NCSC, sublinha a dedicação world na promoção da transparência, da responsabilização e de práticas seguras.
As diretrizes surgem um mês depois que o presidente dos EUA, Joe Biden, assinou uma Ordem Executiva pedindo uma IA “segura, protegida e confiável”. (📷: A Casa Branca)
“A unidade nacional e internacional no avanço dos princípios de segurança desde a concepção e no cultivo de uma base resiliente para o desenvolvimento seguro de sistemas de IA em todo o mundo não poderia surgir num momento mais importante da nossa revolução tecnológica partilhada. Este esforço conjunto reafirma a nossa missão de proteger infra-estruturas críticas e reforça a importância da parceria internacional para garantir o nosso futuro digital.”
As próprias diretrizes foram publicadas no web site do NCSC do Reino Unido e estão divididas em quatro seções: design seguro, desenvolvimento seguro, implantação segura e operação e manutenção seguras. Eles pedem uma abordagem “segura por padrão”, emprestando do NIST Safe Software program Improvement Framework, e pedem “transparência e responsabilidade radicais” e “construir estrutura organizacional e liderança de modo que ‘seguro desde o design’ seja uma das principais prioridades dos negócios”.
As diretrizes estão disponíveis on-line e como um PDF para obtain; até agora, nenhuma das principais empresas de IA se apresentou para declarar que adotará as recomendações contidas neste documento.