La inteligencia artificial se ha convertido en los últimos años en una de las tecnologías más relevantes y de constante aplicación en un sinnúmero de temas y materias.
No es sorpresa que la misma empiece a aplicarse a una diversidad de productos y servicios directamente relacionados con la salud humana, ya que estas tecnologías pueden ser de increíble utilidad para apoyar y auxiliar en diversos temas relativos a la conservación, investigación, diagnostico y curación de diversos tipos de enfermedades y condiciones médicas.
Sin embargo, su uso indiscriminado o incorrecto, puede representar un riesgo para la salud de los seres humanos, así como potenciales vulneraciones a su privacidad, intimidad, información e incluso cuestiones relacionadas con discriminación en todas sus variantes.
Toda vez que este tipo de tecnología se basa en “algoritmos matemáticos” que tienen una gran precisión, pero no pueden prever todas las situaciones como meros datos o información numérica al tratarse de cuestiones relativas a la naturaleza humana.
La información y datos que se alimentan a estos son en muchas ocasiones sensibles, por tener relación directa con la persona, antecedentes médicos, raza, preferencias, identidad, genero, situación económica, etc.
En tal virtud, la inteligencia artificial presenta un número de efectos legales que pueden ser riesgosos o presentar problemas y situaciones no previstas en su uso e implementación aun cuando por otro lado también pueden traer extraordinarios beneficios, particularmente en el ámbito de la salud humana.
Por esto, surge la necesidad de regularla para poder controlar el uso que se dé a la información. En México aún no se cuenta con una legislación que proteja a los usuarios de dicha tecnología y mucho menos aún enfocada en temas relativos a la salud como podrían ser dispositivos médicos que la utilicen, el software mismo como dispositivo médico, información confidencial y su control, expedientes electrónicos, etc.
Será necesario contar con un monitoreo de los sistemas para saber si son seguros, efectivos, cumplen con su uso o bien aquellos casos en los que se tiene que determinar cómo se van a mitigar los efectos negativos o incluso cuando pueden ser peligrosos, y no necesariamente porque sean un riesgo en sí, sino porque la información que recopilen se use para fines ilegales.
Es importante establecer estándares específicos, cómo se va a regular y qué se incluirá en esa regulación, muy probablemente parte de dicha regulación será a través de Normas Oficiales Mexicanas que incluyan estos temas y en particular cuando los mismos sean aplicables a productos y servicios relacionados con la salud humana.
Asimismo, estas disposiciones tendrán que apegarse al marco jurídico correspondiente, por lo que será aún más necesario que en la normativa correspondiente participen todos los actores que tienen que ver con estos temas, desde el Estado, personas que tengan el conocimiento técnico sobre sistemas, derechos humanos, autoridades y personas relacionadas con la salud, etc.
Existe también evidencia de que el uso de la inteligencia artificial puede derivar en discriminación de diversos tipos, ya que, si consideramos que recopila datos como raza, origen étnico, sexo, estado de salud de las personas, entre otras cosas, toda esa información analizada por un algoritmo puede entregar información, conclusiones o resultados que puedan hacer que un grupo determinado de personas sea sujeto de una u otra forma a algún tipo de discriminación.
Entre los riesgos y abusos que podrían llegar a darse al usar la inteligencia artificial, son, por ejemplo, para engañar a una persona, forzar la compra de un producto o servicio, o influir en la capacidad de elección, etc.
Contact
José Alberto Campos Vargas | Partner
