Ingenieros de software de Samsung arrestados por pegar código propietario en ChatGPT

Varios empleados del negocio de semiconductores de Samsung con sede en Corea conectaron líneas de código confidencial en ChatGPT, filtrando efectivamente secretos corporativos que podrían incluirse en las respuestas futuras del chatbot a otras personas en todo el mundo.

Un empleado copió el código fuente defectuoso de una base de datos de semiconductores en el chatbot y le pidió que identificara una solución, según The Economist Korea. Otro empleado hizo lo mismo con un equipo diferente y solicitó "optimización de código" a ChatGPT. Después de que un tercer empleado pidió al modelo de IA que resumiera las notas de la reunión, los ejecutivos de Samsung intervinieron. La compañía limitó el mensaje de cada empleado a ChatGPT a 1.024 bytes.

Apenas tres semanas antes, Samsung había levantado la prohibición de que los empleados usaran ChatGPT debido a preocupaciones sobre este problema. Después de los recientes incidentes, está considerando restablecer la prohibición, así como medidas disciplinarias para los empleados, dice The Economist Korea.

"Si ocurre un accidente similar incluso después de que se tomen medidas de emergencia para proteger la información, el acceso a ChatGPT puede bloquearse en la red de la empresa", se lee en un memorando interno. "Tan pronto como se ingresa contenido en ChatGPT, los datos se transmiten y almacenan en una fuente externa. servidor, lo que hace imposible que la empresa lo recupere”.

La guía del usuario de OpenAI advierte a los usuarios contra este comportamiento: "No podemos eliminar mensajes específicos de su historial. No comparta ninguna información confidencial en sus conversaciones". Dice que el sistema utiliza todas las preguntas y el texto que se le envía como datos de capacitación.

El uso de ChatGPT para encontrar y corregir códigos con errores se ha vuelto omnipresente en la ingeniería de software. Si los usuarios hacen una pregunta de codificación, intenta identificar la solución y proporciona un fragmento de código con un botón de copiar y pegar con un solo clic. El conocimiento de codificación del chatbot aparentemente es suficiente para que Google lo contrate como ingeniero principiante.

Esto puede reemplazar el tiempo (a veces horas) que los ingenieros dedican a navegar por sitios como Stack Overflow, un recurso popular para la resolución de problemas. Como testimonio de las altas tasas de uso de ChatGPT por parte de los ingenieros de software, Stack Overflow prohibió las respuestas generadas por ChatGPT pocos días después de su lanzamiento el 30 de noviembre de 2022 por preocupaciones sobre respuestas inexactas que parecen creíbles.

"El problema principal es que si bien las respuestas que produce ChatGPT tienen una alta tasa de ser incorrectas, generalmente parecen buenas y las respuestas son muy fáciles de producir", dice Stack Overflow en una publicación actualizada hace cuatro días. "El volumen de estas respuestas (miles)... ha inundado efectivamente nuestra infraestructura de curación de calidad basada en voluntarios".

Según se informa, Samsung está considerando construir su propia IA para evitar futuros contratiempos, aunque los ingenieros probablemente podrían evitar cualquier medida usando ChatGPT en dispositivos personales. Microsoft Bing y Google Bard también pueden detectar errores en líneas de código, por lo que prohibir ChatGPT no es una solución infalible.

Suscríbete a las novedades ahorapara recibir nuestras historias principales en su bandeja de entrada todas las mañanas.

Este boletín puede contener publicidad, ofertas o enlaces de afiliados. La suscripción a un boletín indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.

Tu suscripción ha sido confirmada. ¡Esté atento a su bandeja de entrada!