16/10/2024
El debate acerca de la confiabilidad y conocimiento de los sistemas de Inteligencia Artificial apenas ha comenzado. No solo porque exista una "caja negra" en estos sistemas que no permite de manera explícita saber (y por consiguiente explicar causalmente) cómo estos justifican "totalmente" lo que hacen, sino porque tiene amplia discusión ética por lo que denomino el "grado de presencia" de la IA en nuestras tomas decisiones y en nuestra formación de conocimientos: por ejemplo la confiabilidad en el uso de IA en la toma de decisiones judiciales, en operaciones quirúrgicas, etc.
El segundo problema, que es el que voy a exponer en el Coloquio de mañana, es que si los modelos filosóficos basados en formación de creencias (esencialmente inspirados en seres humanos) tienen fuertes divergencias porque les aparecen diversos dilemas epistemológicos que aún no solucionan (es decir no es un debate terminado cómo podemos afirmar que nuestra forma de adquirir conocimiento nos permite saber que ese conocimiento es confiable), ¿cómo vamos a reconocer que los resultados de estos sistemas de IA nos permiten formar creencias y conocimientos fiables? El punto tal vez sea que esos modelos centrados solo en seres humanos no permiten una visión más "elástica" del asunto y hay que repensar el tema de la formación de conocimiento fiables teniendo en cuenta el papel activo de la tecnología, porque inmediatamente tendríamos que solucionar problemas a nivel ético: ¿Quién es el responsable, moral y cognitivamente hablando, de que teniendo los resultados algorítmicos esperados, "todo salga mal" (eliminando cualquier versión apocalíptica del asunto)?
