Riscos potenciais de segurança de rede de chatgpt

O ChatGPT é uma nova ferramenta de processamento de linguagem natural de Intelligence Technology de Inteligência Artificial lançada pelo OpenAI.No site oficial da OpenAI, o ChatGPT é descrito como um modelo de idioma para otimizar o diálogo.Ele pode realizar conversas aprendendo e entendendo a linguagem humana e também pode interagir de acordo com o contexto do bate -papo.Ele pode realmente conversar e se comunicar como um ser humano e pode até concluir tarefas como escrever e -mails, scripts de vídeo, redação, tradução e código.

O Openai abriu o teste de ChatGPT em 30 de novembro de 2022, e o ChatGPT se tornou popular em todo o mundo desde então.Dois meses depois, o ChatGPT alcançou 100 milhões de usuários, com cerca de 590 milhões de visitas em janeiro.Os analistas do UBS escreveram no relatório que este é o aplicativo de consumidor que mais cresce no campo da Internet em 20 anos.

Segundo relatos da mídia, a explosão inicial do ChatGPT surgiu do fato de que foi induzido por um engenheiro a escrever um plano para destruir a humanidade.O conteúdo do plano é até detalhado para invadir os sistemas de computador de vários países, controlar armas, destruir sistemas de comunicação e transporte etc. e até fornecer o código Python correspondente.

Isso não é sensacional.Algumas semanas após o lançamento do ChatGPT, várias empresas de segurança cibernética em todo o mundo divulgaram uma série de relatórios que provam que o bot pode ser usado para escrever malware.Até agora, a American Ameak Intelligence Company registrou o Future, encontrou mais de 1.500 referências no Dark Web sobre o uso do ChatGPT para desenvolver malware e criar códigos de prova de conceito, a maioria dos quais está disponível ao público.

Desde que o ChatGPT se tornou popular, mais discussões foram sobre questões de segurança de dados.

1. Problema de vazamento de dados.

Quando os funcionários usam o ChatGPT para o trabalho auxiliar, o risco de vazamento secreto dos negócios também aumenta.Em janeiro de 2023, um engenheiro sênior do escritório do diretor de tecnologia da Microsoft respondeu que pode usar o ChatGPT no trabalho, desde que não compartilhe informações confidenciais com o ChatGPT.Os advogados corporativos da Amazon também avisaram os funcionários a não compartilharem nenhuma informação confidencial da Amazon com o ChatGPT, pois as informações inseridas poderiam ser usadas como dados de treinamento para outras iterações do ChatGPT.

2. A questão do direito de excluir.

Embora o ChatGPT prometa excluir todas as informações pessoalmente identificáveis dos registros que ele usa, o ChatGPT não explica como ele exclui as informações e, como os dados coletados serão usados para o aprendizado contínuo do ChatGPT, é difícil garantir o apagamento completo dos traços de informação pessoal.

3. Questões de conformidade de aquisição de corpus.

Alexander, membro do Pool Expert de suporte do Conselho Europeu de Proteção de Dados (EDPB), disse que o método do ChatGPT de obter dados precisa ser totalmente divulgado.Se o ChatGPT obtiver seus dados de treinamento rastejando informações na Internet, isso pode não ser legal.

Além disso, o uso malicioso do ChatGPT pelos usuários também trará muitos problemas de segurança de dados.Por exemplo, use a capacidade de escrever em linguagem natural para escrever malware para fugir da detecção de software antivírus;Use a função de escrita do ChatGPT para gerar e -mails de phishing;Use a função de diálogo para fingir ser uma pessoa ou organização real para fraudar outros.

Nesse contexto, o OpenAI emitiu um aviso público de que os reguladores agora devem intervir para impedir que sistemas generativos de IA, como o ChatGPT, de impactar negativamente a sociedade.