É seguro usar o ChatGPT em qualquer aplicativo?
Ao identificar um conjunto de danos do ChatGPT, podemos fornecer uma metodologia simples para determinar se é permitido usa-lo em um aplicativo. São fornecidas algumas regras para a implementação das aplicações desenvolvidas. E podemos confirmar que esses blogs são 100% criados por humanos!
Este artigo de duas partes descreve alguns danos e benefícios dos aplicativos que usam o ChatGPT.
As tecnologias podem escapar do controle de seu criador. Os telefones celulares são um ótimo exemplo. A Bell Labs os inventou e, por trinta anos, a indústria de telecomunicações os viu como extensões de linhas fixas. A opinião deles era que um telefone celular permitiria que você fizesse e recebesse chamadas telefônicas quando estivesse longe de um telefone fixo.
Na década de 1990, as telecomunicações descobriram as mensagens móveis (SMS) e uma bonança de receita transformou empresas como Orange, Verizon, RIM e Vodafone em gigantes da tecnologia.
Em seguida, o iPhone foi introduzido e, de repente, os telefones não se tornaram telefones, mas portais para uma internet de aplicativos e serviços. As redes sociais versão mobile floresceram e se transformaram em algo que ninguém na Bell Labs teria reconhecido ou tolerado, e o resto é história (em andamento). A indústria de telecomunicações estava fora de cena e a Apple e o Google agora definem o produto e os casos de uso para telefones celulares.
Esse tipo de ruptura pode ter consequências inesperadas e indesejadas. Muitos argumentaram que alguns dos novos aplicativos de telefones celulares são extremamente prejudiciais. Por exemplo, aplicativos como Instagram e Snapchat (consumidos por meio de telefones) às vezes são acusados de destruir a autoimagem de mulheres jovens, levando a um aumento nos suicídios (1).
Uma nova e poderosa tecnologia
Até alguns meses atrás, os chatbots eram interfaces estreitas e frágeis para fontes de informação. Os aplicativos que os empregavam eram caros de desenvolver e muitas vezes falhavam na prática. Por exemplo, o Facebook lançou um serviço chamado ‘M’ em agosto de 2015. Ele deveria funcionar como um assistente pessoal automatizado, mas na prática, em 2018, o Facebook só conseguiu atingir uma taxa de automação de 30% para o serviço.
Em contraste, o ChatGPT é um chatbot que possui amplas habilidades em termos de lidar com diferentes tipos de conversa e dialogar sobre diferentes questões. Ele parece ser muito flexível e pode ser adaptado a uma variedade de tarefas de forma barata e rápida. Como o ChatGPT se tornou disponível e os métodos usados para construí-lo são bem conhecidos, agora há uma corrida de outros provedores de tecnologia para lançar tecnologia semelhante, e uma legião de desenvolvedores independentes está criando aplicativos usando-o. Temos que nos acostumar com a ideia de que agora existem assistentes de conversação generativos e todos os tipos de pessoas estão experimentando-os.
O novo Thought Leadership da GFT ‘Usando o ChatGPT com segurança’ tenta responder às seguintes perguntas: Quais aplicativos estão fora dos limites? O que deve ser feito para tornar as coisas mais seguras?
Feitos impressionantes do processamento de linguagem natural
Essas ferramentas são sustentadas por uma geração de modelos de aprendizado de máquina conhecidos coletivamente como Large Language Models (LLMs). O primeiro deles foi o modelo BERT (2) em 2018 e, desde então, LLMs como o ChatGPT cresceram 1000 vezes mais. À medida que os LLMs cresceram, eles se tornaram cada vez mais capazes de feitos impressionantes de processamento de linguagem natural. Eles agora são capazes de gerar texto longo, poesia, código de computador e conversas interativas.
Isso é meio chocante. Existem várias razões pelas quais isso aconteceu. Em primeiro lugar, grandes quantias de dinheiro foram investidas neste esforço, permitindo um ataque brutal com grandes quantidades de computação em nuvem usadas para alimentar os LLMs. Os métodos de treinamento desenvolvidos para as primeiras gerações de LLM também se mostraram muito ineficientes, e pessoas muito inteligentes criaram métodos muito mais eficientes. Finalmente, e possivelmente o mais preocupante de tudo, a energia vital dos modelos de aprendizado de máquina são os dados, e os criadores dos LLMs (com algumas honrosas exceções) demonstraram incessante interesse e obstinação para obtê-los.
Apesar do que se diz quando você pergunta, o ChatGPT apareceu no final de novembro de 2022. Já, apenas alguns meses depois, muitos aplicativos inesperados para o ChatGPT estão aparecendo. Estes variam de “aparentemente não problemáticos eticamente” a “obviamente maliciosos”. No artigo em nosso site, analisamos as áreas de aplicação que estão surgindo e apontamos por que elas podem ser consideradas problemáticas (ou não) e, então, destacamos quais passos podem ser pode ser colocados em prática para decisões de negócio afirmarem se uma aplicação é apropriada e ética e quais mitigações podem ser feitas para adaptar este campo para algo possível.
Descubra o que está fora dos limites e como você pode tornar o ChatGPT mais seguro na parte dois deste blog em breve… Enquanto isso, você pode baixar o Thought Leadership ‘Usando o ChatGPT com segurança’ aqui .
- Luby J, Kertz S. Aumentando as taxas de suicídio em meninas adolescentes nos Estados Unidos e a equalização da disparidade sexual no suicídio: a necessidade de investigar o papel das mídias sociais. JAMA Netw Open. 2019;2(5). doi:10.1001/jamanetworkopen.2019.3916
- Devlin, Jacob, Ming-Wei Chang, Kenton Lee e Kristina Toutanova. ‘Bert: Pré-treinamento de transformadores bidirecionais profundos para compreensão de linguagem.’ arXiv preprint arXiv:1810.04805 (2018).
