Uma investigação recente revelou que a OpenAI, empresa responsável pelo popular ChatGPT, contrata centenas de trabalhadores terceirizados para ler, resumir e avaliar conversas reais entre usuários e o chatbot. Embora a empresa adote medidas para remover informações pessoais, documentos internos obtidos pelo portal 404 Media indicam que conteúdos sensíveis ainda podem ser acessados por esses revisores humanos.
A importância da participação humana
A participação humana no aprimoramento de modelos de inteligência artificial é fundamental. Os revisores participam de processos que vão além da mera análise automatizada de dados, desempenhando um papel crucial na avaliação da qualidade e comportamento das respostas do ChatGPT. Entre as tarefas, destacam-se a identificação de respostas inadequadas e a correção de comportamentos indesejados, como a sicofancia, quando o chatbot concorda ou elogia o usuário de forma excessiva.
Além da OpenAI, outras empresas de tecnologia também utilizam a análise humana para melhorar seus serviços. A Anthropic, por exemplo, afirma recorrer a esse método quando o usuário consente o uso das suas conversas para treinamento. O Google, por sua vez, permite que revisores analisem determinados chats do sistema Gemini, desde que devidamente autorizados.
Preocupações com a privacidade
O uso de revisores humanos levanta preocupações significativas sobre privacidade. Usuários frequentemente utilizam o ChatGPT para tarefas profissionais ou compartilham informações pessoais, o que pode ser problemático se tais dados forem acessados por terceiros. Atualmente, contas pessoais, como as versões Free, Plus e Pro do ChatGPT, têm a configuração de uso de conversas para aprimoramento dos modelos ativada por padrão. Para desativar essa função, basta acessar as configurações do ChatGPT, ir para ‘Controles de dados’ e desativar a opção ‘Melhorar o modelo para todo mundo’.
Projeto Lily e as diretrizes de avaliação
O chamado Projeto Lily é o codinome interno da OpenAI para a iniciativa de avaliação humana das respostas do ChatGPT. Documentos indicam que as atividades dos revisores incluem a análise do prompt original, a sumarização da intenção do usuário e a avaliação das respostas geradas pelo chatbot. As diretrizes para os revisores incluem a redução da ‘fala de IA’, evitando emojis e estruturas de texto consideradas artificiais, e a prevenção da antropomorfização, que impede o ChatGPT de afirmar ter experiências humanas.
Entre as principais preocupações está o risco de que informações pessoais possam ser analisadas inadvertidamente. Apesar de um sistema automatizado de filtros de privacidade ser utilizado para ocultar identificadores pessoais, ele não é infalível e pode falhar em casos de informações ambíguas ou identificadores incomuns.
Proteção de dados e recomendações para usuários
Especialistas recomendam que os usuários evitem compartilhar informações sensíveis com chatbots, mesmo com mecanismos de proteção e configurações de privacidade em vigor. É importante lembrar que uma conversa com inteligência artificial não deve ser tratada como uma comunicação privada.
A OpenAI mantém que, mesmo com a desativação da configuração de aprimoramento, as conversas podem ser processadas para outras finalidades, como segurança e prevenção de abusos. Portanto, manter a cautela ao interagir com essas ferramentas é a melhor forma de proteger sua privacidade.
Fonte: https://canaltech.com.br