OpenAI dice que ejecuta un programa otorgue diez subvenciones de $ 100,000 para financiar experimentos para establecer un proceso democrático para decidir qué reglas deben seguir los sistemas de IA, “dentro de los límites establecidos por la ley”.
El lanzamiento del programa de subsidios sigue a los llamados de OpenAI para un regulador internacional de IA similar al que gobierna la energía nuclear. En su propuesta para crear dicho organismo, los cofundadores de OpenAI, Sam Altman, Greg Brockman e Ilya Sutskever, argumentaron que el ritmo de la innovación en IA es tan rápido que no podemos esperar que las autoridades existentes aprovechen adecuadamente la tecnología: el sentimiento del anuncio de hoy se refleja como Bueno.
Específicamente, OpenAI dice que busca financiar a individuos, equipos y organizaciones para desarrollar una prueba de concepto para un “proceso democrático” que podría abordar preguntas sobre las barreras a la IA. La compañía quiere aprender de estos experimentos y usarlos como base para un proceso más global y más ambicioso en el futuro.
“Si bien estos experimentos iniciales no pretenden (al menos por ahora) ser vinculantes para las decisiones, esperamos que exploren temas relevantes y construyan herramientas democráticas novedosas que puedan influir más directamente en las decisiones en el futuro”, escribió la compañía en una publicación de blog. publicado hoy. “Esta subvención es un paso hacia el establecimiento de procesos democráticos para supervisar… la superinteligencia”.
Con subvenciones de la organización sin fines de lucro OpenAI, OpenAI espera establecer un proceso que refleje el ideal platónico de la democracia: un grupo de personas “ampliamente representativas” que intercambien opiniones, participen en debates “reflexivos” y, en última instancia, decidan el resultado de manera transparente. manera. proceso de toma de decisiones. OpenAI dice que, idealmente, este proceso debería ayudar a responder preguntas como “¿Bajo qué condiciones los sistemas de IA deberían condenar o criticar a las figuras públicas, dadas las diferentes opiniones de los diferentes grupos sobre estas figuras?” y “¿Cómo se deben representar las opiniones contenciosas en los resultados de la IA?”
“El objetivo principal de esta subvención es apoyar la innovación de procesos: necesitamos métodos democráticos mejorados para gestionar el comportamiento de la IA”, escribe OpenAI. “Creemos que las decisiones de comportamiento de la IA deben tomarse desde diferentes perspectivas que reflejen el interés público”.
En el anuncio, OpenAI sugiere que el programa de subvenciones está completamente separado de sus intereses comerciales. Pero esa es una píldora un poco difícil de tragar dadas las recientes críticas de Altman a las regulaciones de IA propuestas en la UE. El tiempo también parece claro, siguiendo a Altman apariencia ante el Comité del Congreso del Senado de EE. UU. la semana pasada, donde abogó por un tipo muy específico de regulación de IA que tendría un impacto mínimo en la tecnología OpenAI existente.
Aún así, incluso si el programa resulta ser de autoservicio, es una dirección interesante en la formulación de políticas de IA (aunque obviamente duplica los esfuerzos de la UE). Yo, por mi parte, tengo curiosidad por ver qué ideas están surgiendo para los “procesos democráticos”, y qué candidatos elegirá finalmente OpenAI.
Las personas pueden solicitar el programa de subvenciones OpenAI a partir de hoy; la fecha límite es el 24 de junio a las 9:00 p. m., hora del Pacífico. Una vez que se cierre el período de solicitud, OpenAI seleccionará a diez ganadores. Los destinatarios deberán presentar un concepto con al menos 500 participantes, publicar un informe público sobre sus hallazgos antes del 20 de octubre y compartir el código fuente de su trabajo.