Reader TTS

Altman (ChatGPT) pide una agencia que decida qué IAs pueden operar Inteligencia artifical “Entiendo que estén preocupados; nosotros también lo estamos”, confiesa al Senado de Estados Unidos

Video El jefe de ChatGPT: “También crea riesgos graves que tenemos que trabajar juntos para gestionar"

Francesc Bracero

Barcelona

16/05/2023 21:04 Actualizado a 17/05/2023 08:39 Sensación absoluta de inquietud y perplejidad en el Capitolio. Sam Altman, consejero delegado de OpenAI (ChatGPT) acudió ayer como testigo

ante el comité judicial del Senado de Estados Unidos para hablar sobre inteligencia artificial, sus peligros y el marco regulatorio que debería aplicarse. Su principal idea es que el

gobierno de Estados Unidos debe crear una agencia específica que, después de examinar cada IA, le otorgue una licencia basada en el grado de capacidades que tenga.

“A medida que esta tecnología avanza, entendemos que la gente esté preocupada por cómo podría cambiar nuestra forma de vivir. Nosotros también lo estamos”, admitió Altman, que pidió a las

autoridades de Estados Unidos “trabajar juntos para identificar y gestionar las posibles desventajas, de modo que todos podamos disfrutar de las enormes ventajas”.

Sam Altman testifica ante el comité del Senado. Al fondo, el profesor Gary Marcus(ANDREW CABALLERO-REYNOLDS / AFP)

“Mis peores temores son que la industria tecnológica causemos un daño significativo al mundo”, señala Altman fue citado en el Senado junto a Christina Montgomery, directora de privacidad y

confianza de IBM, que también pidió una agencia específica para regular la IA; y Gary Marcus, un destacado profesor de psicología y ciencia neuronal en la Universidad de Nueva York, fundador

de empresas de inteligencia artificial y que ha sido muy crítico con los peligros que esta tecnología puede causar.

Cuestionado por uno de los senadores sobre qué es lo que más le preocupa del despliegue de la inteligencia artificial, Altman señaló: “Mis peores temores son que nosotros, la industria

tecnológica causemos un daño significativo al mundo”. “Si esta tecnología va mal, puede ir muy mal”, admitió.

Uno de los aspectos que le causa “mayor preocupación” es la manipulación de imágenes y voz . “Este tipo de habilidades –admitió– me ponen nervioso”. A juicio de Altman, la solución “va a

requerir una combinación de empresas que hagan lo correcto, regulación y educación pública”. El modelo de lenguaje GPT-4 fue probado seis meses antes de lanzarlo. No hay planes para dar

salida a GPT-5 en el próximo medio año.

“Las IAs crearán mentiras persuasivas a una escala nunca vista. La democracia está amenazada”, dice el profesor Gary Marcus Pero el alegato más alarmista ante el comité del Senado fue el de

Gary Marcus, que aseguró a los senadores que “estos nuevos sistemas van a ser desestabilizadores”. “Pueden crear y crearán mentiras persuasivas a una escala nunca vista por la humanidad. La

propia democracia está amenazada”, afirmó.

Este experto pronosticó que “los chatbots también moldearán clandestinamente nuestras opiniones, superando potencialmente lo que pueden hacer las redes sociales” y alertó sobre el poder que

tendrán las empresas de IA: “Los que elijan los datos dictarán las normas que configurarán la sociedad de forma sutil pero poderosa”.

El inicio de la sesión, a cargo del presidente del comité, el senador Richard Blumenthal, fue mediante una grabación de su voz, aunque al terminar, el parlamentario explicó que el registro

había sido creado por inteligencia artificial. “¿Qué pasaría si hubiera pedido y si hubiera respaldado la rendición de Ucrania o el liderazgo de Vladimir Putin?”, se cuestionó. “La

perspectiva da miedo”.

Lee también “La IA es más amenaza para la democracia que para el empleo” Lluís Amiguet Anthropic inculca a Claude, competidora de ChatGPT, una constitución con principios éticos Mayte Rius

Mostrar comentarios

{"allowComment":"allowed","articleId":"article-8972087","url":"https:\/\/admin.lavanguardia.com\/view\/vida\/20230516\/8972087\/altman-chatgpt-pide-agencia-decida-que-ias-operar.html","livefyre-url":"article-8972087"}