Informativo Blockchain e Inovação: Primeiro Tratado Internacional sobre Inteligência Artificial e mais notícias de setembro de 2024
X suspende coleta de dados pessoais de usuários para treinamento de inteligência artificial
No início de setembro, a Comissão de Proteção de Dados da Irlanda (DPC) comunicou o encerramento da disputa contra o X iniciada em agosto. A disputa ocorreu em razão do tratamento de dados pessoais de indivíduos para o treinamento da inteligência artificial (IA) Grok, desenvolvida pelo X.
O caso foi levado ao Tribunal Superior da Irlanda em agosto. A alegação foi de que a utilização dos dados pessoais para treinamento do Grok violaria os direitos e liberdades dos titulares de dados, nos termos do Regulamento Geral de Proteção de Dados Europeu
A princípio, a suspensão foi temporária. No entanto, a DPC afirmou que o X concordou em suspender permanentemente o tratamento dos dados pessoais contidos em publicações de usuários europeus feitas entre maio e agosto de 2024.
Em razão do aumento substancial do tratamento de dados pessoais para treinamento de inteligência artificial, a DPC requisitou a emissão de um parecer do European Data Protection Board (EDPB).
O parecer visa definir entendimentos e esclarecer a matéria a nível do EDPB. Diretrizes que nortearão a realização do tratamento dos dados pessoais de maneira adequada em treinamentos de modelos de IA, como a extensão do tratamento nas várias etapas do treinamento e operação e as bases legais a serem utilizadas pelo controlador, serão abordadas pelo EDPB.
> Referências:
Reino Unido, União Europeia e Estados Unidos assinam o primeiro Tratado Internacional sobre Inteligência Artificial
Após dois anos de negociação, no dia 05 de setembro de 2024, a União Europeia (EU), o Reino Unido e os Estados Unidos assinaram a Convenção do Conselho da Europa sobre Inteligência Artificial ("Convenção").
Este é o primeiro tratado internacional vinculativo sobre o tema, que tem como foco a proteção dos direitos humanos em atividades desenvolvidas por sistemas de inteligência artificial.
O escopo da Convenção cobre atividades desempenhadas por sistemas de IA e conduzidas por entidades públicas, direta ou indiretamente. Entes privados também devem adotar a abordagem baseada em risco trazida pela Convenção, mas podem optar pela utilização de medidas alternativas ao invés de seguir diretamente as obrigações estabelecidas pelo normativo.
A Convenção é compatível com European Union Artificial Inteligence Act (EU AI Act) que regulamenta sistemas de IA, bem como com outras legislações europeias que tratam da matéria. Diversos conceitos do EU AI Act foram refletidos na Convenção.
Dentre os principais pontos que a Convenção define a nível global, destacamos a adoção de medidas para:
Garantir que sistemas de IA protejam direitos humanos, a democracia e o Estado de Direito em todo o seu ciclo de vida;
Assegurar a privacidade de titulares e proteger os seus dados pessoais;
Cumprir com os princípios da transparência, robustez e segurança;
Permitir a avaliação dos riscos inerentes aos sistemas de IA;
Garantir transparência em conteúdos e interações com sistemas de IA;
Assegurar a supervisão adequada de sistemas de IA;
Reforçar a documentação obrigatória, responsabilidade e prestação de contas; e
Promover inovação segura por meio de sandboxes regulatórios.
Não há previsão de multas em caso de descumprimento do normativo. Outros países como Islândia, Noruega e Israel também assinaram a Convenção.
> Referências:
https://istoedinheiro.com.br/ue-eua-e-reino-unido-assinam-acordo-para-regular-ia/
https://br.cointelegraph.com/news/global-ai-treaty-human-rights-regulation
DPC investiga nova empresa sobre o treinamento de sua inteligência artificial
No dia 12 de setembro, a DPC informou que iniciou uma investigação em uma empresa de tecnologia para apurar o tratamento de dados pessoais realizado para o treinamento de sua inteligência artificial, o Pathways Language Model 2 (PALM2).
O objetivo da investigação é avaliar se a empresa cumpriu com as determinações impostas pelo GDPR no processo de desenvolvimento do PALM2, que foi lançado em maio de 2023.
Dentre as obrigações estabelecidas pelo GDPR, a DPC investiga se um Relatório de Impacto à Proteção de Dados (RIPD) foi previamente elaborado pela empresa. A DPC alega que, por meio do RIPD, deveria ser realizada análise para que os riscos aos direitos e liberdades dos titulares associados ao treinamento do PALM2 fossem identificados e mitigados.
A empresa desenvolvedora do PALM2 não é a única big tech investigada pela DPC em razão da utilização de dados pessoais para o treinamento de modelos de IA. Outras duas empresas de tecnologia investigadas pela DPC também suspenderam o treinamento de seus modelos de IA devido a inadequações no tratamento de dados pessoais de seus usuários.
> Referências:
https://www.dataprotection.ie/en/news-media/latest-news/dpcs-engagement-meta-ai
Relatório da ONU destaca necessidade de regulamentação global da inteligência artificial
Em outubro de 2023, o secretário-geral da Organização das Nações Unidas (ONU) criou o Órgão Consultivo de Alto Nível sobre Inteligência Artificial (Órgão), formado por especialistas de diversos países e áreas da economia para debater as implicações de inteligências artificiais na atualidade.
Em setembro deste ano, o Órgão divulgou um relatório que consolida os debates realizados ao longo do ano. As principais conclusões do documento apontam a necessidade de elaborar regulamentações e criar instituições transnacionais capazes de acompanhar o desenvolvimento de tecnologias de IA. Isso porque o alcance e impacto da tecnologia ocorre em âmbito global.
Ainda de acordo com o relatório, o desenvolvimento acelerado de modelos e sistemas de IA, que podem, a depender do caso, representar ameaça para a sociedade, como em casos de deepfakes ou pela utilização da tecnologia por grupos criminosos, justifica a criação dessas estruturas internacionais.
Na visão dos especialistas, a definição de uma estrutura global, com poder de vigilância, poderia prever e antecipar riscos relacionados ao desenvolvimento, comercialização e utilização de tecnologias de IA.
Para tanto, o Órgão propõe uma atuação colaborativa entre países e destaca ações a serem tomadas para efetivar as conclusões destacadas no relatório, como a criação de um escritório de inteligência artificial na ONU.
> Referências:
https://news.un.org/pt/story/2024/09/1837771
Desdobramentos da inteligência artificial nos Estados Unidos
Recentemente, a empresa californiana OpenAI anunciou o lançamento de um novo modelo de inteligência artificial que promete uma melhor capacidade de raciocínio lógico para a resolução de problemas.
O modelo, denominado internamente de "Strawberry", foi projetado para solucionar códigos e problemas matemáticos complexos, sendo voltado primordialmente para cientistas e desenvolvedores, e não a usuários comuns.
A técnica empregada no Strawberry é chamada de aprendizado por reforço, na qual a tecnologia leva mais tempo para analisar as solicitações, o que resulta em uma análise mais aprofundada e consistente.
Paralelamente, o Estado da California, que é o centro da inteligência artificial nos Estados Unidos, se dividiu com relação à votação da Senate Bill 1047, que prevê a regulamentação da inteligência artificial a nível estadual.
O projeto de lei estabelece uma série de medidas de segurança que desenvolvedores devem adotar para impedir que sistemas de IA causem danos críticos.
Além disso, o projeto de lei prevê que, a partir de 2026, desenvolvedores deverão se submeter a auditorias anuais. As avaliações serão conduzidas por terceiros independentes com o intuito de avaliar a conformidade dos sistemas de IA.
Como resultado, mesmo em um cenário dividido, o governador da Califórnia, Gavin Newsom, decidiu vetar o projeto de lei, alegando a necessidade de uma abordagem mais equilibrada, baseada na ciência, e que não iniba a inovação tecnológica.
> Referências:
https://www.ft.com/content/c5e7bf0b-cadc-4673-b2d8-daa9d89f2230
