Engenheiros de software da Samsung presos por colar código proprietário no ChatGPT

Vários funcionários do negócio de semicondutores da Samsung, com sede na Coreia, inseriram linhas de código confidencial no ChatGPT, vazando efetivamente segredos corporativos que poderiam ser incluídos nas respostas futuras do chatbot para outras pessoas ao redor do mundo.

Um funcionário copiou o código-fonte com bugs de um banco de dados de semicondutores para o chatbot e pediu que ele identificasse uma correção, de acordo com o The Economist Korea. Outro funcionário fez o mesmo com outro equipamento, solicitando “otimização de código” ao ChatGPT. Depois que um terceiro funcionário pediu ao modelo de IA para resumir as notas da reunião, os executivos da Samsung intervieram. A empresa limitou a solicitação de cada funcionário ao ChatGPT a 1.024 bytes.

Apenas três semanas antes, a Samsung suspendeu a proibição de funcionários usarem o ChatGPT devido a preocupações com esse problema. Após os recentes incidentes, está a considerar restabelecer a proibição, bem como medidas disciplinares para os funcionários, afirma o The Economist Korea.

“Se um acidente semelhante ocorrer mesmo após medidas emergenciais de proteção de informações serem tomadas, o acesso ao ChatGPT pode ser bloqueado na rede da empresa”, diz um memorando interno. “Assim que o conteúdo é inserido no ChatGPT, os dados são transmitidos e armazenados para um externo servidor, tornando impossível para a empresa recuperá-lo.”

O guia do usuário OpenAI(Abre em uma nova janela) alerta os usuários contra esse comportamento: "Não podemos excluir prompts específicos do seu histórico. Não compartilhe nenhuma informação confidencial em suas conversas." Diz que o sistema usa todas as perguntas e textos enviados como dados de treinamento.

O uso do ChatGPT para localizar e corrigir códigos com bugs tornou-se difundido na engenharia de software. Se os usuários fizerem uma pergunta sobre codificação, ele tentará identificar a solução e fornecerá um trecho de código com um botão copiar e colar com um clique. Aparentemente, o conhecimento de codificação do chatbot é suficiente para que ele seja contratado pelo Google como engenheiro iniciante.

Isso pode substituir o tempo (às vezes horas) que os engenheiros passam navegando em sites como o Stack Overflow, um recurso popular para solução de problemas. Como prova das altas taxas de uso do ChatGPT por engenheiros de software, o Stack Overflow baniu (abre em uma nova janela) as respostas geradas pelo ChatGPT poucos dias após seu lançamento em 30 de novembro de 2022 devido a preocupações com respostas imprecisas que parecem verossímeis.

“O principal problema é que, embora as respostas que o ChatGPT produz tenham uma alta taxa de erros, elas normalmente parecem boas e as respostas são muito fáceis de produzir”, diz Stack Overflow em uma postagem atualizada há quatro dias. "O volume dessas respostas (milhares)... efetivamente inundou nossa infraestrutura de curadoria de qualidade baseada em voluntários."

A Samsung está considerando construir sua própria IA para evitar acidentes futuros, embora os engenheiros provavelmente possam contornar quaisquer medidas usando ChatGPT em dispositivos pessoais. O Microsoft Bing e o Google Bard também podem detectar bugs em linhas de código, portanto, banir o ChatGPT não é uma solução à prova de balas.

Inscreva-se para receber novidades agorapara que nossas principais notícias sejam entregues em sua caixa de entrada todas as manhãs.

Este boletim informativo pode conter publicidade, ofertas ou links afiliados. A assinatura de um boletim informativo indica seu consentimento com nossos Termos de Uso e Política de Privacidade. Você pode cancelar a assinatura dos boletins informativos a qualquer momento.

Sua assinatura foi confirmada. Fique de olho na sua caixa de entrada!