INTELIGENCIA ARTIFICIAL

Inteligencia Artificial en Europa

La propuesta presentada por la UE para regular la IA es la primera que se hace. Se basa en los riesgos que pueden surgir de usar la IA, por lo que crea una serie de regulaciones y normas para poder hacer un buen uso de esta, si como permitir que los ciudadanos confíen en ella para que pueda aplicarse a los problemas que surgen en nuestra sociedad.

Para garantizar la seguridad de la aplicación de los sistemas de IA la Comisión Europea divide esos sistemas según el riesgo que puedan suponer. Esto afectará a empresas públicas o privadas de dentro o de fuera de U (este último aspecto en la medida en la que los sistemas o productos vayan a introducirse en países de la Unión):

Inaceptable à Se prohibirá todo lo que se considere una amenaza clara para los ciudadanos de la UE, contra los valores de la UE y conta los derechos humanos: desde la clasificación social por parte de los Gobiernos a los juguetes que utilicen un asistente de voz que incentive comportamientos peligrosos en los niños.
Riesgo alto à que se amplían a sistemas que puedan afectar de alguna forma a los derechos humanos o a la seguridad de las personas. Toda identificación biométrica, por ejemplo, se considera de algo riesgo. Antes de comercializar un sistema de IA de alto riesgo en el mercado de la Unión o de ponerlo en servicio de otra forma, los proveedores deberán someterlo a una evaluación de la conformidad. Esto les permitirá demostrar que su sistema cumple los requisitos obligatorios de una IA digna de confianza. Los proveedores de sistemas de IA de alto riesgo también tendrán que aplicar sistemas de calidad y gestión de riesgos para garantizar su conformidad con los nuevos requisitos y minimizar los riesgos para los usuarios y las personas afectadas, incluso después de que un producto se haya comercializado
Riesgo reducido à algunos sistemas de AI deben tener la transparencia suficiente como para que los usuarios sepan que están interactuando con una máquina.
Riesgo mínimo à son la gran mayoría de sistemas de IA que existen y se usan ahora mismo en la UE.

Calificar los sistemas según el riesgo que suponen depende de la función y propósitos que tenga el propio sistema. El criterio seleccionado para esta clasificación incluye también el uso que se le da a la IA y de el numero de personas que pueden salir perjudicadas o daños que pueda causar.

Los Estados miembros desempeñan un papel clave en la aplicación y el cumplimiento del presente Reglamento. A este respecto, cada Estado miembro deberá designar una o varias autoridades nacionales competentes para supervisar la aplicación y ejecución, así como para realizar actividades de vigilancia del mercado. A fin de aumentar la eficiencia y establecer un punto de contacto oficial con la población y otros homólogos, cada Estado miembro deberá designar una autoridad nacional de supervisión, que también representará al país en el Comité Europeo de Inteligencia Artificial.

¿Cuáles son las sanciones por las infracciones?

Cuando se comercialicen o utilicen sistemas de IA que no respeten los requisitos del Reglamento, los Estados miembros deberán establecer sanciones efectivas, proporcionadas y disuasorias, incluidas multas administrativas, por las infracciones y notificarlas a la Comisión.

El Reglamento fija umbrales que deberán tenerse en cuenta:

hasta treinta millones de euros o el 6 % del volumen de negocios anual total a escala mundial del ejercicio financiero anterior, optándose por la de mayor cuantía, por las infracciones por incumplimiento o prácticas prohibidas en relación con los requisitos sobre los datos;
hasta veinte millones de euros o el 4 % del volumen de negocios anual total a escala mundial del ejercicio financiero anterior por el incumplimiento de cualquier otro requisito u obligación del Reglamento;
hasta diez millones de euros o el 2 % del volumen de negocios total anual a escala mundial del ejercicio anterior por el suministro de información incorrecta, incompleta o engañosa a los organismos notificados y a las autoridades nacionales competentes en respuesta a una solicitud.

Con el fin de armonizar las normas y prácticas nacionales en materia de establecimiento de multas administrativas, la Comisión formulará directrices con el asesoramiento del Comité. Como las instituciones, agencias y organismos de la UE deben dar ejemplo, también estarán sujetas a las normas y a las posibles sanciones; el Supervisor Europeo de Protección de Datos estará facultado para imponerles multas.

Se creará el Comité Europeo de IA, que estará formado por representantes de alto nivel de las autoridades nacionales de supervisión competentes, el Supervisor Europeo de Protección de Datos y la Comisión. Su función consistirá en facilitar una aplicación fluida, eficaz y armonizada del nuevo Reglamento sobre la IA. También contribuirá a generar los conocimientos especializados en su calidad de centro de competencia al que las autoridades nacionales podrán consultar. Por último, también apoyará las actividades de normalización en este ámbito. Todos los sistemas de IA no buscan las discriminaciones del tipo racial o de género, sino que justo lo contrario: pueden a ayudar a reducirlos.

Regulación del Parlamento Europeo en cuanto a Inteligencia Artificial

La Regulación establece un marco normativo para la comercialización de máquinas en el mercado único. Los objetivos generales son:

Garantizar la libre circulación de máquinas en el mercado interior
Garantizar un alto nivel de protección para los usuarios y otras personas expuestas personas expuestas.

El informe concluye que la actual legislación sobre seguridad de los productos contiene una serie de lagunas que deben ser abordadas; como la parte correspondiente a la Directiva sobre máquinas. Esto es aún más relevante para la Recuperación de la pandemia de COVID, ya que el sector de la maquinaria es una parte esencial de la industria de la ingeniería y uno de los pilares industriales de la economía de la UE.

Todo esto está en consonancia con el Acta del Mercado Único que subraya la necesidad de restablecer confianza de los consumidores en la calidad de los productos comercializados y la importancia de reforzar la vigilancia del mercado.

Esta propuesta es coherente con la política de la Unión en materia de inteligencia artificial (IA) y con el próximo Reglamento, que abordará los riesgos que tienen un impacto en la seguridad de los sistemas de IA de alto riesgo integrados en una máquina o que son componentes de seguridad en el marco del futuro reglamento sobre los productos de las máquinas.

Sin una normativa a escala de la Unión, los Estados miembros podrían imponer requisitos de seguridad divergentes, lo que daría lugar a diferencias en la seguridad de los productos para los usuarios y para los fabricantes cuando se comercialicen máquinas en distintos países.

Artículos ha destacar de la regulación:

(5): Los Estados miembros son responsables de proteger, en su territorio, la salud y la seguridad de las personas, en particular de los trabajadores y los consumidores y, en su caso, de los animales domésticos y de los bienes, especialmente en relación con los riesgos derivados de la utilización de las máquinas. Para evitar dudas, debe considerarse que los animales domésticos los animales de granja.

(17): La evolución del sector de la maquinaria ha dado lugar al uso creciente de medios digitales y el software desempeña un papel cada vez más importante en el diseño de la maquinaria. En consecuencia, la definición de maquinaria debe adaptarse.

(24): En el sector de la maquinaria, alrededor del 98% de las empresas son pequeñas o medianas empresas (PYME). Para reducir la carga normativa de las PYME, los organismos notificados deben adaptar las tasas de las evaluaciones de conformidad y reducirlas proporcionalmente a los intereses y necesidades específicas de las PYME.

La regulación y los artículos se pueden leer aquí

Libro Blanco

La IA se desarrolla a mucha velocidad, tanto que seguir el ritmo es difícil. Esto afectará a nuestras vidas de forma positiva, aunque también podría llegar a tener efectos negativos y riesgos que hay que tener en consideración como la opacidad en la toma de decisiones, la discriminación de género o de otro tipo, la intromisión en nuestras vidas privadas o su uso con fines delictivos.

Aun así, las ventajas que ofrece la IA son numerosas, y la UE debe actuar de forma conjunta para poder hacer frente a los desafíos que surjan: “La Comisión se ha comprometido a facilitar el avance científico, preservar el liderazgo tecnológico de la UE y garantizar que las nuevas tecnologías estén al servicio de todos los europeos, de manera que mejoren sus vidas al mismo tiempo que respetan sus derechos” (p.1)

Esta unión que debe suceder entre los estados en este aspecto debe hacerse desde una perspectiva tecnológica e industrial. Europa debe convertirse en el líder mundial de la innovación digital y de datos. Todo ello se ha de hacer teniendo en cuenta las ventajas que tiene esto para la sociedad:

Para los ciudadanos las ventajas se basarán en una mejor atención sanitaria, mejores aparatos electrodomésticos o, entre otros, mayor limpieza y transportes públicos.
Para el ámbito empresarial, se beneficiarán los productos de distintos ámbitos maquinaria, transporte, ciberseguridad, agricultura, economía verde y circular, atención sanitaria y sectores de gran valor añadido, como la moda y el turismo. A su vez y de formas más o menos indirecta esto repercutirá positivamente en la vida y, la calidad de ella, de los ciudadanos.
Con respecto a los servicios de interés público: a reducción de los costes de la prestación de servicios (transporte, educación, energía y gestión de los residuos), una mayor sostenibilidad de los productos, o proporcionando a los servicios y fuerzas de seguridad las herramientas adecuadas para que aseguren la protección de los ciudadanos, garantizando correctamente el respeto de sus derechos y libertades.

Es importante que todo ello se considere desde una perspectiva de la sociedad en su conjunto y no solo de forma individual. El desarrollo de la IA debe ir siempre de la mano de la preservación de los valores democráticos y amparando siempre los objetivos de Desarrollo Sostenible.

Europa tienen una posición privilegiada que le permitiría beneficiarse de todo el potencial que conlleva la IA desde la posición de potenciadora y creadora de esta tecnología, pues tiene empresas, usuarios y mentes innovadoras y brillantes que podrían impulsarla para convertirla en líder mundial. A pesar de esto, es cierto que la financiación con la que cuenta es menor que la del resto de regiones mundial, lo que supone un impedimento para este desarrollado: “En 2016, se invirtieron unos 3 200 millones EUR en inteligencia artificial en Europa, frente a los cerca de 12 100 millones EUR en América del Norte y 6 500 millones EUR en Asia10. Ante este hecho, Europa debe aumentar significativamente sus niveles de inversión” (pp. 4-5). El objetivo que persigue la Comisión es conseguir mas de 20.000 millones de euros a lo largo de la siguiente década para poder invertirlo en IA.

Además de otra serie de medidas que buscan cambiar el panorama social con respecto a la IA cabe destacar las medidas para la concienciación en la educación para la concienciación de la sociedad para capacitarla de la toma de decisiones bajo una influencia de la IA.

También mencionar la importancia de las pymes en este contexto. La comisión busca poder proveerlas de lo necesario para que puedan acceder también a las nuevas tecnologías y novedades de la IA.

El Libro Blanco se pude consultar de forma completa aquí

Link de interés con respecto a IA: