La inteligencia artificial debe responder a una nueva ética
Para que IA pueda ayudar a la humanidad en una crisis hace falta una nueva manera crearle una ética, dice Jess Whittlestone, profesora en la Universidad de Cambridge. La llama "ética para la urgencia”
Lo que ella llama “ética para la urgencia” consiste en anticipar problemas antes de que ocurran, encontrar mejores maneras de crear seguridad y confiabilidad en los sistemas de IA y poner el acento en la experiencia técnica en todos los niveles del desarrollo y uso de la tecnología. dEn el centro de esas recomendaciones está la idea de que la ética, definida como la ciencia del comportamiento moral, debe formar parte del proceso de creación de la inteligencia artificial y más tarde, de la forma en que se la usa. Nunca debe considerarse un simple agregado.
Las herramientas de inteligencia artificial pueden ayudar a salvar vidas en una pandemia. Sin embargo, la necesidad de implementar rápidamente soluciones tecnológicas plantea dilemas éticos difíciles. Necesitamos nuevos enfoques para una ética con urgencia para asegurar que IA se use beneficiosamente para todos en la respuesta a la Covid 19. Así se expresa Whittlestone y otros dos autores en la revista Nature Machine Intelligence.
Hay actualmente muchas propuestas para usar IA en la prevención y respuesta a la pandemia. IA puede ayudar a detectar, comprender y predecir la difusión de la enfermedad. Puede también mejorar la respuesta médica de varias maneras, por ejemplo automatizando aspectos del diagnóstico y mejorando el desarrollo de vacunas y medicamentos.
Esta crisis presenta la oportunidad de aprovechar IA para beneficio de la sociedad. Sin embargo, la urgencia con que las nuevas tecnologías deben implementarse presenta riesgos y problemas de tipo ético. En primer lugar existe la preocupación de que el uso de IA en respuesta a la Covid-19 puede comprometer la privacidad y las libertades civiles al incentivar la recolección y procesamiento de grandes cantidades de datos que pueden muchas veces ser privados o personales.
Hace falta entonces una ética sólida con procesos de evaluación del riesgo para asegurar que IA se usa con responsabilidad. Implementar esto en tiempos de crisis como el actual dista mucho de ser sencillo, especialmente cuando las nuevas tecnologías deben ser implementadas a toda velocidad n y en gran escala.
Los investigadores sugieren que la “ética con urgencia” debe como mínimo incorporar los siguientes componentes: (1) la posibilidad de pensar anticipadamente en lugar de tratar los problemas en forma reactiva, (2) procedimientos más sólidos para asegurar la conducta y la seguridad de los sistemas de IA, (3) crear confianza pública a través de un control independiente.
Como ilustra la actual pandemia, los tiempos de crisis siempre necesitan la implementación urgente de nuevas tecnologías. Peor esa urgencia aumenta la probabilidad de que surjan problemas y riesgos éticos. Por eso los autores del trabajo recomiendan a los profesionales en tecnología, ética, salud y política que consideren cómo implementar la ética a toda velocidad en la actual respuesta a la Covid-19.
