Inteligencia Artificial, Compliance y Derecho del Consumo Estructuras de gobernanza empresarial y estatal frente al empleo de algoritmos durante la pandemia y más allá. (Artificial Intelligence, Compliance and Consumer Law. Corporate and State Governance Structures Facing the Use of Algorithms during the Pandemic and Beyond) (preprint)

ABSTRACT

Spanish Abstract El empleo masivo de datos y decisiones algorítmicas en los procesos de producción y comercialización de bienes y servicios y, en su extremo, el uso de Inteligencia Artificial (IA), es una tendencia creciente cuya velocidad se ha disparado durante la crisis sanitaria de la Covid 19 en 2020. Estructuralmente, más allá de la aceleración de coyuntura, no es previsible que esa tendencia revierta a niveles precedentes. El grado de integración de esas tecnologías a los procesos destinados al consumo es tal que, regular cada uno de sus aspectos contingentes (machine learning, IA, etc.) por separado, puede ser insuficiente y hasta atentar contra el éxito de los propósitos del Derecho de Consumo. La introducción de la electricidad en el mercado puede servir de analogía en un momento fue una innovación particularmente útil y peligrosa pero no parecería, hoy, razonable, a los fines del Derecho del Consumo, distinguir procesos de producción y comercialización que la emplean y otros que no; exigir la presencia de un funcionario responsable de la electricidad dentro de la empresa para el caso de utilizarla o una agencia estatal de supervisión de productores profesionales que la utilizan. Al contrario, parece más adecuado regular los sistemas de producción y comercialización asumiendo que estarán consustancialmente impregnados y determinados por aquellas tecnologías tanto la ya antigua electricidad, cuando la novedosa IA. El nivel de complejidad que tales tecnologías introducen en aquellos procesos determina que la estrategia de compliance de Derecho del Consumo, conjuntamente con instrumentos jurídicos tradicionales, heterónomos (sanciones penales y administrativas, responsabilidad civil), sea preferible por sobre el desempeño de esos últimos sin combinación con la primera. Las conclusiones de la Economía de los Costos de Transacción y consideraciones conductuales que se apartan del modelo económico Neoclásico abonan la preferibilidad de esta posibilidad. La empresa no es una estructura trasmisora transparente de los incentivos impuestos por los costos privados derivados de las sanciones heterónomas, hacia los individuos que la componen. Esa transmisión es imperfecta y asincrónica, lo cual puede incrementar significativamente los costos sociales. El momento en que se dé el monitoreo de las decisiones empresarias y la posibilidad de influir en esa esfera, los mecanismos de circulación interna de la información y las modalidades de aplicación de normas de alta indeterminación resultan factores relevantes, respecto de los cuales las estrategias puramente heterónomas más tradicionales pueden lidiar solo deficientemente.English Abstract The massive use of data and algorithmic decisions in processes of production and marketing of goods and services and, ultimately, the use of Artificial Intelligence (AI), is a growing trend whose speed has skyrocketed during the COVID-19 health crisis in 2020. Beyond the pandemic, the reversion of this trend is not predictable. The degree of integration of these technologies into processes aiming to consumption is such that regulating each of their contingent aspects (machine learning, AI, etc.) may be inappropriate and even, may jeopardize the success of the purposes of consumer law. The introduction of electricity in the market can serve as an analogy at one time it was a particularly useful and dangerous innovation. However, nowadays it would not seem reasonable, for the purposes of Consumer Law, to distinguish production and marketing that use electricity and others that do not; to require the presence of an official responsible for electricity within the company or a specific consumer agency supervising firms who use electric power in their operation. On the contrary, it seems more appropriate to design the Consumer Law assuming that production and marketing will be inherently impregnated by those technologies both the old electricity and the new AI. The level of complexity that new data technologies introduce in those processes determines that internal compliance strategies, together with traditional, heteronomous legal instruments (criminal and administrative sanctions, civil liability), is preferable over the performance of the latter without the former. The conclusions of Transaction Cost Economics and behavioral considerations that depart from Neoclassical economic basis support the preferability of this possibility. The firm is not a transparent transmitter of the incentives derived from public sanctions to its officers and employees. This transmission is imperfect and asynchronous, which can significantly increase social costs. The timing of monitoring corporate decisions and the possibility of influencing this sphere, the internal circuits of information and the particulars of application of highly indeterminate rules are relevant factors with respect to which the more traditional heteronomous strategies can cope only poorly.