A Itália acabou de proibir o ChatGPT. Será que os EUA serão os próximos?

Modelos de IA generativa, como o ChatGPT da OpenAI, coletam dados para aprimorar e treinar seus próprios modelos. A Itália vê essa coleta de dados como uma possível violação da privacidade do usuário e, como resultado, proibiu o uso do ChatGPT no país.

Na sexta-feira, a Autoridade Italiana de Proteção de Dados divulgou um comunicado impondo uma limitação temporária imediata no processamento dos dados dos usuários italianos pela OpenAI.

As duas principais preocupações que a proibição está tentando abordar são a coleta não autorizada de dados do usuário e a falta de verificação de idade, o que expõe as crianças a respostas que são "absolutamente inadequadas para sua idade e consciência", de acordo com o comunicado.

No que diz respeito à coleta de dados, as autoridades afirmam que a OpenAI não foi legalmente autorizada a coletar dados do usuário.

"Não parece haver nenhum fundamento legal que sustente a coleta e o processamento massivo de dados pessoais para 'treinar' os algoritmos nos quais a plataforma se baseia", diz a Autoridade Italiana de Proteção de Dados no comunicado.

O representante designado da OpenAI na Área Econômica Europeia tem 20 dias para cumprir a ordem, caso contrário, a empresa de pesquisa em IA poderá enfrentar uma multa de até 20 milhões de euros ou 4% do faturamento total anual mundial.

A decisão foi tomada após uma violação de dados em 20 de março, que expôs as conversas dos usuários do ChatGPT e informações de pagamentos feitos pelos assinantes.

Essa violação destacou os riscos potenciais de usar ferramentas de IA que ainda estão em fase de pesquisa, mas ainda estão disponíveis para uso público.

Então, pode acontecer em breve uma proibição nos EUA? Líderes de tecnologia nos EUA já começaram a pedir por uma proibição temporária em relação a novos desenvolvimentos em IA.

Earlier this week, CEO da Tesla Elon Musk, co-fundador da Apple Steve Wozniak e Emad Mostaque, CEO da Stability AI estavam entre os líderes de tecnologia que assinaram uma petição pedindo que os laboratórios de IA pausassem, por pelo menos seis meses, o treinamento de sistemas de IA mais poderosos do que o GPT-4.

Assim como a proibição da Itália, a pausa solicitada pela petição tem como objetivo proteger a sociedade dos "profundos riscos para a sociedade e a humanidade" que os sistemas de IA com inteligência competitiva humana podem provocar.

A petição até mesmo insta os legisladores dos EUA a considerarem intervenção caso a pausa não seja iniciada pelos próprios laboratórios de IA.