junio 27

0  comments

La IA debe ser segura y controlable

Los expertos han pedido mayores esfuerzos para garantizar que las empresas chinas desarrollen tecnología de inteligencia artificial de próxima generación que sea «segura y controlable» a medida que el país busca un desarrollo de IA de mayor calidad.

«Para la IA, el desarrollo innovador y la gobernanza de la seguridad son igualmente importantes. La industria de la IA no se desarrollará de manera saludable si hay problemas de seguridad»

dijo Zhang Bo, presidente del Instituto de Inteligencia Artificial de la Universidad de Tsinghua y académico de la Academia china de ciencias.

«Los algoritmos de IA existentes son muy frágiles. Si el algoritmo se aplica a un escenario real que es muy diferente del escenario de entrenamiento, habrá riesgos de seguridad».

En la conducción autónoma, por ejemplo, es imposible que un sistema de IA simule todos los escenarios posibles durante el entrenamiento.

Si se enfrenta a nuevas emergencias con las que no puede lidiar, la tecnología será mal utilizada y tales vulnerabilidades también hacen que los sistemas de IA sean vulnerables a los ataques, dijo.

«Es especialmente el caso cuando la tecnología de vanguardia se utiliza en más y más escenarios con una velocidad más rápida de la esperada», dijo Zhang, y agregó que tecnologías como la inteligencia artificial hacen deepfakes - la manipulación de videos para producir resultados aparentemente realistas, pero fabricados, imágenes y sonidos - han tenido un gran impacto en la sociedad.

Zhang dijo que se necesitan más esfuerzos para aprovechar «el conocimiento, los datos, los algoritmos y la potencia informática» para construir tecnologías de inteligencia artificial de próxima generación que sean seguras, confiables y creíbles.

IA segura en China

El máximo liderazgo de China pidió en mayo pasos acelerados para convertir al país en una potencia científica y tecnológica, pero también advirtió sobre los riesgos potenciales durante el desarrollo tecnológico.

Los comentarios se produjeron en una reunión que combinó las asambleas generales de la Academia de Ciencias de China y la Academia de Ingeniería de China, y el congreso nacional de la Asociación de Ciencia y Tecnología de China.

El país también debe alcanzar niveles más altos de autosuficiencia y fortaleza en ciencia y tecnología para ofrecer apoyo estratégico para el desarrollo nacional, se dijo en la reunión.

Tian Tian, ​​director ejecutivo de RealAI, una empresa de inteligencia artificial con sede en Beijing respaldada por la Universidad de Tsinghua, dijo que se deben hacer más esfuerzos para desarrollar la seguridad de la inteligencia artificial, especialmente en relación con los datos y los algoritmos, para resolver peligros ocultos como la filtración de información privada.

Según un informe de la firma de investigación de mercado global International Data Corp, China se convertirá en un importante impulsor del desarrollo global de la IA y representará el 15,6 por ciento del mercado para 2024.

Durante los próximos tres años, los ingresos por ventas del sector de inteligencia artificial del país mantendrán una tasa de crecimiento anual compuesta del 30,4 por ciento para alcanzar los $ 17.220 millones en 2024, según el informe.

Más noticias de negocios en China en nuestro Blog

Facebook GDRworld

Tu oficina en China


Tags


También te puede interesar

Subscribe to our newsletter now!

>