Columna invitadaTecnología

La voz (poco) oculta de Chat GPT

PONGAMOS TODO EN PERSPECTIVA. El reciente escándalo en torno a la voz de Scarlett Johansson utilizada en ChatGPT-4o expone una realidad inquietante


🖋 Carlos Villalobos

En nuestra realidad, inmersa en un vendaval de desarrollos y avances tecnológicos, la innovación y la ética suelen caminar en una cuerda floja; por ello, es fundamental mirar más allá de las apariencias y los discursos bien elaborados.

La figura de Sam Altman, CEO de OpenAI (quienes desarrollan el famosísimo Chat GPT), ha sido frecuentemente pintada como una especie de mesías tecnológico, una supuesta contraparte idealista y benévola frente al polémico Elon Musk. Sin embargo, recientes revelaciones sugieren que esta imagen es, cuanto menos, una fachada cuidadosamente construida.

El reciente escándalo en torno a la voz de Scarlett Johansson utilizada en ChatGPT-4o expone una realidad inquietante.

De acuerdo con informes, Altman y su equipo integraron una voz en su chatbot que sonaba inquietantemente similar a la de la actriz, sin su consentimiento. Johansson se enteró de esto no por una notificación formal de OpenAI, sino a través de atar cabos luego de recibir mensajes de Altman y comunicaciones con Open AI. A la postre, esto desataría una tormenta legal y mediática que puso de relieve prácticas cuestionables en el desarrollo y lanzamiento de productos de inteligencia artificial.

Altman, a pesar de sus promesas públicas de no humanizar los chatbots ni fomentar relaciones emocionales con ellos, parecía estar obsesionado con replicar la voz de Johansson, famosa por su papel en la película “Her”, donde un humano se enamora de su asistente virtual. Esta película, irónicamente, ilustra los peligros y las complejidades de las relaciones humano-máquina, un tema que Altman parecía decidido a explorar a pesar de sus promesas.

La cuestión no es simplemente una cuestión de derechos de autor o de propiedad intelectual. Es un asunto de ética, transparencia y consentimiento.

Las acciones de Altman revelan una actitud despreocupada hacia los obstáculos que podrían interponerse en sus objetivos, un rasgo que lo asemeja mucho más a Elon Musk de lo que él y sus defensores quisieran admitir. Musk ha sido criticado por su enfoque implacable y a menudo despiadado en la búsqueda de sus metas, y ahora parece que Altman comparte más de este ethos de lo que se pensaba.

El uso de la voz de Johansson sin su consentimiento es sólo la punta del iceberg. OpenAI, según se informa, había explorado cientos de voces para su nuevo chatbot, pagando tarifas superiores a las del mercado para obtener el sonido perfecto. Sin embargo, la implementación final se hizo apresuradamente y sin la claridad necesaria sobre la autenticidad y el consentimiento, lo que llevó a una serie de problemas legales y de relaciones públicas.

Cuando se lanzó ChatGPT-4o, la voz artificial, apodada “Sky”, comenzó a interactuar con los empleados de manera que recordaba inquietantemente a la trama de “Her”. Altman incluso tuiteó una referencia a la película, subrayando aún más la conexión. Esto no sólo contradice sus declaraciones anteriores, sino que también subraya una falta de coherencia y responsabilidad.

El caso de Johansson es un recordatorio de que en el ámbito del desarrollo de IA, las grandes promesas de avance tecnológico deben ser examinadas con un escepticismo saludable. Los líderes de la industria, ya sean Musk o Altman, a menudo operan bajo la presión de innovar rápidamente y dominar el mercado, lo que puede llevar a decisiones que ignoran principios éticos fundamentales.

La inteligencia artificial tiene el potencial de transformar nuestras vidas de maneras asombrosas, pero ese potencial debe ser manejado con cuidado y responsabilidad. El respeto por los derechos de los individuos, la transparencia en el desarrollo de nuevas tecnologías y el consentimiento informado son pilares que no pueden ser sacrificados en el altar del progreso.

Es fundamental que el público y los reguladores mantengan un ojo vigilante sobre estas corporaciones tecnológicas y sus líderes. No debemos dejarnos seducir por las narrativas cuidadosamente construidas de altruismo y benevolencia. En su lugar, debemos exigir responsabilidad, ética y transparencia. Sólo así podremos asegurar que el desarrollo de la inteligencia artificial beneficie verdaderamente a la humanidad y no sólo a unos pocos en posiciones de poder.

La saga de Scarlett Johansson y ChatGPT-4o sirve como un potente recordatorio de que en el ámbito del desarrollo tecnológico no hay santos ni filántropos inmaculados. Las promesas de innovación deben ir acompañadas de un compromiso inquebrantable, o al menos de marcos normativos lo suficientemente robustos para defendernos, pero lo suficientemente laxos para no detener el desarrollo, con la ética y el respeto por los derechos de los individuos. Sólo así podremos navegar el complejo y emocionante futuro de la inteligencia artificial de manera justa y equitativa.

Sígueme en twitter como @carlosavm_
carlosavme@gmail.com
https://carlosvillalobos.substack.com/

Artículos relacionados

Back to top button
error: Content is protected !!