Você sabe quais são os riscos de segurança cibernética do ChatGPT e como se proteger contra eles?

No século 19, Alan Turing sugeriu a possibilidade de uma máquina alterar suas próprias instruções dadas e aprender com a experiência. Aclamado como o pai da Inteligência Artificial, Turing abriu o caminho para os avanços consideráveis feitos no campo da IA ​​até o século XXI.

Hoje, temos a tecnologia de IA atrelada em nossas vidas por meio de todos os serviços que usamos – da Siri ao software de reconhecimento facial usado para desbloquear o telefone. As máquinas foram construídas para tornar a vida mais simples e criar um futuro melhor para todos nós, e não nos esquivamos disso. No entanto, essas inovações não são isentas de riscos inerentes. O salto mais recente e interativo foi o advento dos chatbots de IA – principalmente o modelo ChatGPT.

Chatbots de IA e ChatGPT

O que é um chatbot? Simplificando, um Chatbot é um programa de computador que simula uma conversa humana para auxiliar na comunicação e serviços com o cliente por meio do uso de inteligência artificial. O software imita essa resposta humana por meio de comandos de voz ou serviços de caixa de texto e aumenta ou substitui a necessidade de agentes humanos.

A OpenAI é um laboratório de pesquisa líder com sede em San Francesco e, em novembro de 2022, a empresa lançou o modelo ChatGPT, criado em 2015 por Sam Altman e Elon Musk. O programa ChatGPT foi criado para interagir por meio de conversação – permitindo responder a perguntas de acompanhamento, admitir erros, desafiar uma premissa incorreta e rejeitar solicitações inapropriadas.

Com mais de um milhão de usuários, o ChatGPT acumulou uma grande base de fãs por sua incrível capacidade de imitar a conversa humana e fornecer vários serviços em diferentes campos – desde redação e composição de música até responder a perguntas de teste e escrever código de computador.

Uma característica distinta do ChatGPT é que ele não apenas fornece um índice de resultados de pesquisa, mas também usa suas habilidades de aprendizado de máquina para explicar tópicos complexos e fornecer soluções práticas. No entanto, isso deixa espaço para erros – até mesmo o site do programa afirma que o ChatGPT às vezes escreve “respostas que parecem plausíveis, mas incorretas ou sem sentido”. 

Isso não impediu a maioria das empresas de acelerar o entendimento da ferramenta, já que o New York Times até relatou que o Google estava tão alarmado com os recursos do ChatGPT que emitiu um “código vermelho” para garantir a sobrevivência do negócio de busca da empresa.

A crescente popularidade dos chatbots e ChatGPT

Embora o conceito de Inteligência Artificial sempre pareça ter uma implicação disruptiva e futurista, a maioria das grandes empresas hoje em dia já investiu na tecnologia Chatbot e você provavelmente já se acostumou com ela. Siri, Alexa e Google Home são todos chatbots de serviço, e a maioria das empresas de mídia como Netflix, Hulu, CNN e MTV já usaram com sucesso a tecnologia Chatbot para interagir com os clientes.

Empresas e marcas estão usando chatbots de várias maneiras interessantes, de acordo com o Medium . Permitindo que você peça comida, obtenha recomendações e até agende voos. A publicação lista Starbucks, Lyft, Spotify e The Wall Street Journal como apenas alguns dos gigantes da indústria que também estão usando a tecnologia Chatbot para melhorar os serviços. 

A pandemia do Covid-19 abriu caminho para que as plataformas automatizadas assumissem um papel mais central na prestação de serviços, em um esforço para reduzir a interação humana e a tecnologia tornou- se parte cotidiana de nossas vidas.

O The Information informou que a Microsoft discutiu a incorporação da inteligência artificial da OpenAI em seu conjunto de aplicativos – como Word, PowerPoint e Outlook – para permitir que os clientes gerem texto automaticamente usando prompts simples. A gigante da computação investiu recentemente US$ 1 bilhão na OpenAI para apoiar a construção da Inteligência Artificial Geral (AGI).

O Google também não é estranho ao jogo de IA e tem seu modelo de linguagem chamado LaMDA – que usa técnicas de aprendizado de máquina para ajudá-lo a entender a intenção das consultas de pesquisa e permite que ele se envolva em uma conversa fluida sobre um número aparentemente infinito de tópicos.

Outras empresas que fizeram uso da tecnologia AI, incluem Jasper – por meio de seu AI Content Generator e Unbounce – que oferece ferramentas de direitos autorais com tecnologia AI para gerar slogans, cópia de mídia social, e-mails e descrições de produtos.

No entanto, esses grandes passos para revolucionar o setor também trazem uma série de riscos.

Os riscos de segurança cibernética associados ao ChatGPT

Embora o surgimento da tecnologia Chatbot tenha se mostrado benéfico, muitos ainda permanecem céticos, e por boas razões. De acordo com a CNET, o Departamento de Educação da cidade de Nova York bloqueou o acesso ao ChatGPT em seus dispositivos de rede devido a temores de trapaça, aos impactos negativos no aprendizado dos alunos e à precisão do conteúdo produzido.

A desinformação tem sido uma preocupação constante para o programa ChatGPT, que aprende apenas com os dados humanos existentes na Internet – o que está longe de ser uma fonte precisa na maioria das vezes.

No entanto, o aspecto mais crucial a considerar é a ameaça à segurança cibernética que o Chatbot avançado criou repentinamente. O próprio criador do ChatGPT concordou em um tweet que estamos perto de uma IA perigosamente forte que pode representar um enorme risco de segurança cibernética e que abordar uma realidade AGI na próxima década significa levar esse risco a sério.

O TechCrunch escreveu recentemente sobre a empresa Check Point realizando uma demonstração usando o ChatGPT no qual foi solicitado a criar um e-mail de phishing. A princípio, o OpenAI menciona que esse conteúdo pode violar sua política de conteúdo, mas, após mais instruções, o programa ChatGPT obrigou e criou um possível e-mail de phishing. A Check Point também soou o alarme sobre a aparente capacidade do chatbot de ajudar criminosos cibernéticos a escrever códigos maliciosos. 

Os extensos recursos de dados e linguagem natural do ChatGPT o tornam uma ferramenta atraente para criminosos cibernéticos que são novos no campo ou simplesmente com preguiça de criar seu código/e-mail malicioso e desejam realizar um ataque cibernético da mesma forma.

Riscos de segurança do ChatGPT

O Medium sugeriu que quatro categorias gerais podem ser usadas para classificar os riscos de segurança do ChatGPT:

Phishing

Roubo de dados

Malware

Botnets

1. E-mails de phishing:  um e-mail de phishing é um tipo de malware em que o invasor cria um e-mail fraudulento, mas crível, para enganar os destinatários e levá-los a executar instruções prejudiciais. Essas instruções podem ser clicar em um link não seguro, abrir um anexo, fornecer informações confidenciais ou transferir dinheiro para contas específicas. Os golpes de phishing são o tipo mais comum de malware encontrado atualmente;

2. Roubo de dados:  roubo de dados é qualquer exfiltração não autorizada e acesso a dados confidenciais em uma rede. Isso inclui detalhes pessoais, senhas ou até mesmo códigos de software – que podem ser usados ​​por agentes de ameaças em um ataque de ransomware ou qualquer outra finalidade maliciosa;

3. Malware:  Malware, ou software malicioso , é um termo amplo que se refere a qualquer tipo de software que pretenda prejudicar o usuário de alguma forma. Ele pode ser usado para se infiltrar em servidores privados, roubar informações ou simplesmente destruir dados;

4. Botnets:  Um ataque de botnet é um ataque cibernético direcionado durante o qual uma coleção de dispositivos conectados à Internet é infiltrada e sequestrada por um hacker. Referindo-se a uma rede de robôs, um ataque de botnet é realizado por um ator criminoso que visa assumir o controle de uma rede de computadores, servidores e outros tipos de redes para uma série de possíveis propósitos maliciosos.

Embora isso possa parecer assustador, ainda há etapas que podem ser tomadas para reduzir o risco dessas ameaças ao usar os serviços do ChatGPT.

Como se proteger contra e-mails de phishing

Com a crescente popularidade do ChatGPT, elaboramos algumas dicas para manter sua rede protegida de qualquer agente de ameaça que tente tirar proveito da tecnologia. É muito importante que as organizações invistam em segurança cibernética para evitar a perda de negócios. 

1. Fique informado. Isso pode parecer uma ferramenta muito básica, mas sua educação e capacidade de reconhecer um ataque cibernético ou malware antes de permitir que ele entre em sua rede é potencialmente a única coisa entre você e um agente de ameaça. Desconfiar de e-mails e links suspeitos ajudará bastante na proteção de suas informações.
2. Usando uma senha segura. Outra dica de segurança muito básica que geralmente é negligenciada, embora geralmente seja a primeira linha de defesa contra roubo de dados. Certifique-se de que a senha escolhida seja complexa e difícil de adivinhar.
3. Ativando a autenticação de dois fatores. A maioria das redes já possui recursos de autenticação de dois fatores que garantem que fatores exclusivos sejam usados ​​para verificar a identidade de um usuário antes de conceder acesso a ele. Ele fornece uma camada extra de segurança à sua rede para evitar a ocorrência de violações.
4. Aproveitando uma plataforma de detecção e resposta de rede. Uma plataforma NDR ( Network Detection and Response ) fornece monitoramento extensivo de segurança cibernética para sua rede para garantir que nenhuma ameaça maliciosa possa obter acesso. 
5. Instalando um software antivírus. Um software antivírus protegerá sua rede contra malwares, ataques de phishing e a maioria das outras ameaças cibernéticas.
6. Monitorando suas contas.  Estar ciente das atividades em sua conta bancária e em sua rede ajudará você a detectar comportamentos suspeitos rapidamente e agir imediatamente para reduzir o risco de mais danos à rede ou conta.
7. Mantendo seu Software Atualizado. Seu sistema operacional precisa estar sempre com desempenho máximo para fornecer proteção adequada para sua rede. Certifique-se de que as atualizações mais recentes estejam instaladas em seu dispositivo para mitigar falhas de segurança e bugs encontrados em versões anteriores.

O futuro dos chatbots de IA e da segurança cibernética

A revolta do Chatbot começou e funcionou bem até agora – mas os riscos de um programa que pode ser treinado para produzir software malicioso por capricho precisam ser supervisionados e abordados com cautela. Criamos um enigma muito humano com cada salto feito na tecnologia, onde as coisas que criamos podem mudar o mundo, mas nas mãos erradas, podem destruí-lo também.

O ChatGPT não deixa de ter uma evolução positiva em termos de segurança cibernética, como Jake Moore da ESET revelou ao TechCrunch quando disse que “se o ChatGPT aprender o suficiente com sua entrada, em breve poderá analisar possíveis ataques em tempo real e criar sugestões positivas para aumentar a segurança”.

A acessibilidade ilimitada e o uso ilimitado do ChatGPT tornam-no bastante perigoso, mas Greg Brockman, presidente e co-fundador da OpenAI, disse em um tweet recentemente que uma versão profissional paga do ChatGPT com desempenho mais rápido está em andamento – o que pode ser capaz de resolver as questões de segurança cibernética e sugestões de entrada maliciosas.

Como em tudo, o futuro da tecnologia AI permanece obscuro para navegar na melhor das hipóteses. Só podemos esperar que a engenharia humana crie um mundo melhor – sem comprometer sua segurança.

E você? Qual sua opinião?