Transparencia sobre Inteligencia Artificial

Nuestra posición

ACHALAI considera que la utilización de Inteligencia Artificial debe ser transparente, comprensible y compatible con la intervención humana.

Esta página explica cómo utilizamos IA para construir ACHALAI y cómo puede utilizarse IA dentro de la plataforma.

1. ACHALAI fue desarrollado con asistencia intensiva de IA

Las herramientas de Inteligencia Artificial generativa forman parte del proceso de desarrollo de ACHALAI.

Han sido utilizadas como asistencia en actividades como:

• ideación;
• diseño;
• programación;
• análisis;
• documentación;
• testing;
• debugging;
• refactoring;
• revisión;
• mejora iterativa.

El proceso no consiste simplemente en delegar el producto a un sistema autónomo.

Existe intervención humana en:

• definición funcional;
• decisiones de producto;
• selección de soluciones;
• integración;
• validación;
• corrección;
• aceptación o rechazo de cambios.

2. Propiedad y procedencia tecnológica

La utilización de herramientas de IA durante el desarrollo no significa que los proveedores de dichas herramientas:

• sean propietarios de ACHALAI;
• sean socios de ACHALAI;
• patrocinen ACHALAI;
• controlen el producto;
• reciban derechos sobre los Datos del Cliente por el solo hecho de haber sido utilizados durante el desarrollo.

Los componentes de terceros mantienen sus respectivas licencias y derechos.

ACHALAI procura mantener trazabilidad sobre:

• dependencias;
• software Open Source;
• servicios externos;
• herramientas utilizadas durante el desarrollo.

3. IA utilizada para desarrollar ≠ IA utilizada dentro del producto

Son conceptos diferentes.

IA para desarrollar ACHALAI

Herramientas utilizadas por el equipo de desarrollo para crear y mantener el software.

IA dentro de ACHALAI

Sistemas de IA que participan directamente en una funcionalidad utilizada por un Cliente.

La utilización del primer tipo no significa automáticamente que los datos almacenados en ACHALAI sean enviados a sistemas externos de IA.

4. Datos de Clientes y herramientas de desarrollo

Los Datos del Cliente y los datos personales de sus Ocupantes no deben utilizarse como material de entrenamiento o prueba en herramientas generales de IA utilizadas para desarrollar ACHALAI.

Para desarrollo y demostraciones se prioriza:

• información ficticia;
• datos sintéticos;
• datasets diseñados para prueba.

5. Funcionalidades de IA en la Plataforma

Cuando una función utiliza efectivamente IA, ACHALAI procura diferenciarla de:

• cálculos matemáticos;
• reglas de negocio;
• filtros;
• automatizaciones determinísticas;
• estadísticas tradicionales.

No toda automatización es Inteligencia Artificial.

6. Supervisión humana

ACHALAI adopta como principio de diseño:

La IA puede recomendar. La persona analiza. La persona decide.

Los outputs relevantes deberían poder:

• revisarse;
• cuestionarse;
• corregirse;
• ignorarse;
• reemplazarse.

La responsabilidad de las decisiones empresariales continúa correspondiendo a las personas autorizadas por el Cliente.

7. Decisiones sobre personas

ACHALAI opera en ámbitos que pueden incluir:

• compensación;
• desempeño;
• potencial;
• desarrollo;
• sucesión;
• estructura;
• fuerza laboral.

Por ello, cualquier funcionalidad de IA que pueda influir materialmente en una decisión sobre una persona requiere especial consideración.

ACHALAI no promueve el uso irreflexivo de un resultado automatizado como única base de una decisión laboral significativa.

8. Precisión de los resultados

Los outputs de IA pueden presentar errores o limitaciones.

Un resultado generado por IA:

• no es infalible;
• puede interpretar incorrectamente información;
• puede omitir contexto;
• puede depender de datos incorrectos;
• puede requerir revisión profesional.

9. Entrenamiento de modelos

ACHALAI no utilizará Datos del Cliente o datos personales de sus Ocupantes para entrenar modelos generales de IA propios o de terceros salvo autorización contractual expresa y cumplimiento de las normas aplicables.

10. Proveedores externos de IA

Si una funcionalidad futura requiere transmitir Datos del Cliente a un proveedor externo de IA, ACHALAI deberá evaluar previamente:

• finalidad;
• proveedor;
• datos necesarios;
• seguridad;
• retención;
• transferencias internacionales;
• condiciones contractuales;
• utilización para entrenamiento;
• rol como subencargado.

La información contractual y de privacidad correspondiente deberá actualizarse antes de utilizar ese tratamiento cuando así lo requiera la normativa.

11. Unión Europea

ACHALAI sigue la evolución del marco regulatorio europeo sobre Inteligencia Artificial.

Determinadas aplicaciones de IA relacionadas con empleo y gestión de trabajadores pueden encontrarse sujetas a obligaciones específicas dependiendo de su finalidad y funcionamiento.

Por esa razón, la clasificación regulatoria debe realizarse funcionalidad por funcionalidad.

Esta página no constituye una declaración ni certificación de cumplimiento del Reglamento Europeo de Inteligencia Artificial.

Cuando una funcionalidad o implementación concreta quede sujeta a requisitos adicionales, ACHALAI deberá adoptar las medidas que resulten legalmente aplicables antes de su comercialización o utilización correspondiente.

12. Evolución

La utilización de IA dentro de ACHALAI puede evolucionar.

Esta página será actualizada cuando existan cambios materiales relacionados con:

• funcionalidades de IA;
• proveedores;
• tratamiento de datos;
• finalidad;
• supervisión humana.

13. Contacto

Consultas sobre Inteligencia Artificial y privacidad:

info@achalai.com