Altman (CHATGPT) pide una agencia que decida qué IA puede operar
“Entiendo que estén preocupados; nosotros también lo estamos”, dice al Senado
Sensación absoluta de inquietud y perplejidad en el Capitolio. Sam Altman, consejero delegado de openai (CHATGPT) acudió ayer como testigo ante el comité judicial del Senado de Estados Unidos para hablar sobre inteligencia artificial, sus peligros y el marco regulatorio que debería aplicarse. Su principal idea es que el gobierno de Estados Unidos debe crear una agencia específica que, después de examinar cada IA, le otorgue una licencia basada en el grado de capacidades que tenga.
“A medida que esta tecnología avanza, entendemos que la gente esté preocupada por cómo podría cambiar nuestra forma de vivir. Nosotros también lo estamos”, admitió Altman, que pidió a las autoridades de Estados Unidos “trabajar juntos para identificar y gestionar las posibles desventajas, de modo que todos podamos disfrutar de las enormes ventajas”.
Altman fue citado en el Senado junto a Christina Montgomery, directora de privacidad y confianza de IBM, que también pidió una agencia específica para regular la IA; y Gary Marcus, un destacado profesor de psicología y ciencia neuronal en la Universidad de Nueva york, fundador de empresas de inteligencia artificial y que ha sido muy crítico con los peligros que esta tecnología puede causar.
Cuestionado por uno de los senadores sobre qué es lo que más le preocupa del despliegue de la inteligencia artificial, Altman señaló: “Mis peores temo
“Mis peores temores son que nosotros, la industria tecnológica, causemos un daño significativo al mundo”
res son que nosotros, la industria tecnológica, causemos un daño significativo al mundo”. “Si esta tecnología va mal, puede ir muy mal”, admitió.
Uno de los aspectos que le causa “mayor preocupación” es la manipulación de imágenes y voz . “Este tipo de habilidades –admitió– me ponen nervioso”. A juicio de Altman, la solución “va a requerir una combinación de empresas que hagan lo correcto, regulación y educación pública”. El modelo de lenguaje GPT-4 fue probado seis meses antes de lanzarlo. No hay planes para dar salida a GPT-5 en el próximo medio año.
Pero el alegato más alarmista ante el comité del Senado fue el de Gary Marcus, que aseguró a los senadores que “estos nuevos sistemas van a ser desestabilizadores”. “Pueden crear y crearán mentiras persuasivas a una escala nunca vista por la humanidad. La propia democracia está amenazada”, afirmó.
Este experto pronosticó que “los chatbots también moldearán clandestinamente nuestras opiniones, superando potencialmente lo que pueden hacer las redes sociales” y alertó sobre el poder que tendrán las empresas de IA: “Los que elijan los datos dictarán las normas que configurarán la sociedad de forma sutil pero poderosa”.
El inicio de la sesión, a cargo del presidente del comité, el senador richard Blumenthal, fue mediante una grabación de su voz, aunque al terminar, el parlamentario explicó que el registro había sido creado por inteligencia artificial. “¿Qué pasaría si hubiera pedido y si hubiera respaldado la rendición de Ucrania o el liderazgo de Vladímir Putin?”, se cuestionó. “La perspectiva da miedo”.