ESTADOS UNIDOS,- Pierre Omidyar fundador de eBay y el cofundador de LinkedIn, Reid Hoffman, han integrado un fondo de 27 millones de dólares cuyo propósito es promover la investigación en inteligencia artificial de interés público.
La preocupación sobre el impacto social de la IA se incrementa por las agenda políticas a medida que se determina el poder de las tecnologías autónomas, moldear el comportamiento y los resultados a escala. Un ejemplo es el furor alrededor de Facebook y las falsas noticias promovidas a raíz del resultado de la elección presidencial de EEUU.
La Asociación Profesioinal Técnica de la IEEE publicó un borrador sobre el desarrollo de sistemas de AI diseñados éticamente. El nuevo fondo se llama el Fondo de Ética y Gobernabilidad de la Inteligencia Artificial y tendrá como objetivo apoyar una «sección transversal de proyectos y actividades de ética y gobernabilidad de la IA», tanto en los Estados Unidos como a nivel internacional.
Hoffman y Omidyar, a través de su fondo de inversión filantrópica, han puesto cada uno en $ 10M. A ellos se unen el periodista y la Fundación Knight dedicada a las artes, que aportó $ 5M. Otros patrocinadores en este momento son la Fundación William y Flora Hewlett, y Jim Pallotta, fundador del Grupo Raptor, que han comprometido cada uno $ 1M – aunque el objetivo es aumentar el tamaño del fondo más, a medida que otros fondos se unen.
En un comunicado de prensa, el grupo señala cómo los algoritmos están tomando cada vez más decisiones clave que afectan a la sociedad, desde la visibilidad de las noticias hasta las aprobaciones de préstamos o los tipos de trabajos que realizan los individuos.
En otro ejemplo ilustrativo reciente de la disputa entre empresas tecnológicas que buscan acelerar el despliegue de tecnologías autónomas y reguladores encargados de garantizar la seguridad pública, los automóviles de autos de Uber fueron obligados a abandonar la carretera en California el mes pasado – después de que la empresa inicialmente rechazara una orden de terminar Un piloto de la tecnología, después de afirmar que no necesitaba un permiso para operarlos. El Procurador General de California pensó lo contrario.
«Debido a este impacto omnipresente, pero a menudo oculto, es imperativo que la investigación y el desarrollo de la IA sean moldeados por una amplia gama de voces – no sólo por ingenieros y corporaciones, sino también por científicos sociales, éticos, filósofos, líderes religiosos, economistas y abogados. Y los responsables políticos «, escribe el grupo.
Las cuestiones específicas que el fondo podría abordar también se detallan como:
Comunicación de la complejidad: ¿Cómo comunicamos mejor, a través de palabras y procesos, los matices de un campo complejo como la IA?
Diseño ético: ¿Cómo construimos y diseñamos tecnologías que consideren los marcos éticos y los valores morales como las características centrales de la innovación tecnológica?
Avance de una IA imparcial y responsable: ¿Qué tipo de controles necesitamos para minimizar el potencial daño de AI a la sociedad y maximizar sus beneficios?
Innovación en el interés público: ¿Cómo mantenemos la capacidad de los ingenieros y empresarios para innovar, crear y obtener beneficios, al mismo tiempo que aseguramos que la sociedad esté informada y que el trabajo integre las perspectivas de interés público?
Ampliación de la tabla: ¿Cómo crecemos el campo para asegurar que una serie de sectores estén involucrados en la construcción de herramientas y el análisis del impacto social?
Comentando el lanzamiento en un comunicado, Omidyar dijo: «Como tecnólogo, estoy impresionado por la increíble velocidad con la que se están desarrollando las tecnologías de inteligencia artificial.
Como filántropo y humanitario, estoy ansioso por asegurar que las consideraciones éticas y los impactos humanos de estas tecnologías no pasen por alto. Omidyar Network está participando en el fondo para asegurar que las áreas críticas como la ética, la rendición de cuentas y la gobernabilidad, se consideren desde las primeras etapas del diseño «.
Hoffman agregó: «Hay una urgencia para asegurar que AI beneficie a la sociedad y minimice el daño. La toma de decisiones de AI puede influir en muchos aspectos de nuestro mundo: la educación, el transporte, la atención de la salud, la justicia penal y la economía, pero los datos y el código detrás de esas decisiones pueden ser en gran parte invisibles «.
El MIT Media Lab y el Berkman Klein Center for Internet & Society de la Universidad de Harvard servirán como instituciones académicas fundadoras para la nueva iniciativa de fondos de investigación de AI, lo que significa que colaborarán en iniciativas de investigación que podrían ser financiadas. El objetivo es también que el fondo «complemente y colabore con» los esfuerzos pertinentes existentes en las instituciones, dicen. La administración diaria del fondo será manejada por The Miami Foundation.
techcrunch/r3