Durante las últimas dos décadas, los científicos informáticos han desarrollado una amplia gama de redes neuronales profundas (DNN) diseñadas para abordar diversas tareas del mundo real.Si bien algunos de estos modelos han demostrado ser muy efectivos, algunos estudios encontraron que pueden ser injustos, lo que significa que su rendimiento puede variar según los datos con los que fueron entrenados e incluso las plataformas de hardware en las que se implementaron.

Por ejemplo, algunos estudios demostraron que las herramientas de reconocimiento facial basadas en el aprendizaje profundo disponibles comercialmente eran significativamente mejores para reconocer las características de las personas de piel clara en comparación con las de personas de piel oscura.Estas variaciones observadas en el desempeño de la IA, en gran parte debido a las disparidades en eldatos de entrenamientodisponibles, han inspirado esfuerzos destinados a mejorar lajusticiade los modelos existentes.

Investigadores de la Universidad de Notre Dame se propusieron recientemente investigar cómo los sistemas de hardware pueden contribuir a la equidad de la IA.Su papel,publicadoenElectrónica de la naturaleza, identifica formas en las que los diseños de hardware emergentes, como los dispositivos de computación en memoria (CiM), pueden afectar la equidad de las DNN.

"Nuestro artículo surgió de una necesidad urgente de abordar la equidad en la IA, especialmente en áreas de alto riesgo como la atención médica, donde los sesgos pueden provocar daños significativos", dijo a Tech Xplore Yiyu Shi, coautor del artículo.

"Si bien gran parte de la investigación se ha centrado en la equidad de los algoritmos, el papel del hardware a la hora de influir en la equidad se ha ignorado en gran medida. A medida que los modelos de IA se implementan cada vez más en dispositivos con recursos limitados, como los dispositivos móviles y de borde, nos dimos cuenta de que el hardware subyacente podría potencialmenteexacerbar o mitigar los sesgos".

Después de revisar la literatura anterior que exploraba las discrepancias en el rendimiento de la IA, Shi y sus colegas se dieron cuenta de que aún no se había investigado la contribución del diseño de hardware a la equidad de la IA.El objetivo clave de su estudio reciente fue llenar este vacío, examinando específicamente cómo los nuevos diseños de hardware CiM afectaron la equidad de las DNN.

"Nuestro objetivo era explorar sistemáticamente estos efectos, particularmente a través de la lente de las arquitecturas CiM emergentes, y proponer soluciones que pudieran ayudar a garantizar implementaciones justas de IA en diversas plataformas de hardware", explicó Shi."Investigamos la relación entre hardware y equidad mediante la realización de una serie de experimentos utilizando diferentes configuraciones de hardware, centrándonos particularmente en arquitecturas CiM".

Como parte de este estudio reciente, Shi y sus colegas llevaron a cabo dos tipos principales de experimentos.El primer tipo tenía como objetivo explorar el impacto de los diseños de arquitectura neuronal conscientes del hardware, de diferente tamaño y estructura, sobre la imparcialidad de los resultados obtenidos.

"Nuestros experimentos nos llevaron a varias conclusiones que no se limitaron adispositivoselección", dijo Shi. "Por ejemplo, encontramos que las redes neuronales más grandes y complejas, que normalmente requieren más recursos de hardware, tienden a exhibir una mayor equidad.Sin embargo, estos mejores modelos también fueron más difíciles de implementar en dispositivos con recursos limitados".

Basándose en lo que observaron en sus experimentos, los investigadores propusieron posibles estrategias que podrían ayudar a aumentar la equidad de la IA sin plantear desafíos computacionales significativos.Una posible solución podría ser comprimir modelos más grandes, conservando así su rendimiento y limitando su carga computacional.

"El segundo tipo de experimentos que llevamos a cabo se centró en ciertas no idealidades, como la variabilidad de los dispositivos y los problemas de fallas que se combinan con las arquitecturas CiM", dijo Shi."Usamos estas plataformas de hardware para ejecutar varias redes neuronales, examinando cómo los cambios en el hardware, como diferencias en la capacidad de memoria o la potencia de procesamiento, afectaban lamodeloLa justicia.

"Los resultados mostraron que se exhibieron varias compensaciones bajo diferentes configuraciones de variaciones de dispositivos y que los métodos existentes utilizados para mejorar la robustez bajo variaciones de dispositivos también contribuyeron a estas compensaciones".

Para superar los desafíos revelados en su segunda serie de experimentos, Shi y sus colegas sugieren emplear estrategias de entrenamiento conscientes del ruido.Estas estrategias implican la introducción de ruido controlado durante el entrenamiento de modelos de IA, como medio para mejorar tanto su robustez como su equidad sin aumentar significativamente sus demandas computacionales.

"Nuestra investigación destaca que la equidad de las redes neuronales no es sólo una función de los datos o algoritmos, sino que también está significativamente influenciada por el hardware en el que se implementan", dijo Shi."Uno de los hallazgos clave es que los modelos más grandes y que consumen más recursos generalmente funcionan mejor en términos de equidad, pero esto tiene el costo de requerir hardware más avanzado".

A través de sus experimentos, los investigadores también descubrieron que las no idealidades inducidas por el hardware, como la variabilidad de los dispositivos, pueden llevar a compensaciones entre la precisión y la equidad de los modelos de IA.Sus hallazgos resaltan la necesidad de considerar cuidadosamente tanto el diseño de las estructuras del modelo de IA como las plataformas de hardware en las que se implementarán, para alcanzar un buen equilibrio entre precisión y equidad.

"En la práctica, nuestro trabajo sugiere que al desarrollar IA, particularmente herramientas para aplicaciones sensibles (por ejemplo, diagnósticos médicos), los diseñadores deben considerar no sólo los algoritmos de software sino también las plataformas de hardware", dijo Shi.

El trabajo reciente de este equipo de investigación podría contribuir a esfuerzos futuros destinados a aumentar la equidad de la IA, alentando a los desarrolladores a centrarse tanto en los componentes de hardware como de software.Esto, a su vez, podría facilitar el desarrollo de sistemas de inteligencia artificial que sean precisos y equitativos, y que produzcan resultados igualmente buenos al analizar los datos de usuarios con diferentes características físicas y étnicas.

"En el futuro, nuestra investigación seguirá profundizando en la intersección del diseño de hardware y la equidad de la IA", afirmó Shi."Planeamos desarrollar marcos avanzados de codiseño entre capas que optimicen las arquitecturas de redes neuronales para lograr equidad y al mismo tiempo considerar las limitaciones de hardware. Este enfoque implicará explorar nuevos tipos deplataformas de hardwareque apoyan inherentemente la equidad junto con la eficiencia".

Como parte de sus próximos estudios, los investigadores también planean diseñar técnicas de entrenamiento adaptativo que puedan abordar la variabilidad y limitaciones de diferentes sistemas de hardware.Estas técnicas podrían garantizar que los modelos de IA sigan siendo justos independientemente de los dispositivos en los que se ejecuten y las situaciones en las que se implementen.

"Otra vía de interés para nosotros es investigar cómo se podrían ajustar configuraciones de hardware específicas para mejorar la equidad, lo que podría conducir a nuevas clases de dispositivos diseñados con la equidad como objetivo principal", añadió Shi."Estos esfuerzos son cruciales a medida que los sistemas de IA se vuelven más ubicuos y la necesidad de una toma de decisiones justa e imparcial se vuelve cada vez más crítica".

© 2024 Red Ciencia X