Document Type

Article

Publication Date

2019

Abstract

Machine-learning algorithms are improving and automating important functions in medicine, transportation, and business. Government officials have also started to take notice of the accuracy and speed that such algorithms provide, increasingly relying on them to aid with consequential public-sector functions, including tax administration, regulatory oversight, and benefits administration. Despite machine-learning algorithms’ superior predictive power over conventional analytic tools, algorithmic forecasts are difficult to understand and explain. Machine learning’s “black-box” nature has thus raised concern: Can algorithmic governance be squared with legal principles of governmental transparency? We analyze this question and conclude that machine-learning algorithms’ relative inscrutability does not pose a legal barrier to their responsible use by governmental authorities. We distinguish between principles of “fishbowl transparency” and “reasoned transparency,” explaining how both are implicated by algorithmic governance but also showing that neither conception compels anything close to total transparency. Although machine learning’s black-box features distinctively implicate notions of reasoned transparency, legal demands for reason-giving can be satisfied by explaining an algorithm’s purpose, design, and basic functioning. Furthermore, new technical advances will only make machine-learning algorithms increasingly more explainable. Algorithmic governance can meet both legal and public demands for transparency while still enhancing accuracy, efficiency, and even potentially legitimacy in government.

Gli algoritmi di machine learning stanno migliorando ed automatizzando importanti funzioni della medicina, del trasporto e del business. Anche gli ufficiali governativi hanno iniziato a notare l’accuratezza e la rapidità che questi algoritmi forniscono, affidandosi a questi progressivamente per sostenere conseguenti funzioni del settore pubblico, compresi l’amministrazione fiscale, la supervisione regolamentare e le prestazioni sociali. Nonostante il superiore potere predittivo degli algoritmi di machine learning rispetto a strumenti analitici convenzionali, le previsioni algoritmiche sono difficili da comprendere e spiegare. La natura di “scatola nera” del machine learning ha dunquesollevato dei timori: è possibile far quadrare il governo algoritmico con i principi legali della trasparenza governativa? Analizziamo questa domanda e concludiamo che l’inscrutabilità degli algoritmi di machine learning non pone una barriera legale al loro utilizzo responsabile da parte delle autorità governative. Distinguiamo tra il principio della“fishbowl transparency” (ovvero una trasparenza equivalente a quella di una teca di vetro, come un acquario) e quello della “ragionevole trasparenza,” spiegando come entrambi sono implicate nel governo algoritmico ma mostrando anche che nessuna delle concezioni impone niente di vicino ad una trasparenza totale. Nonostante le caratteristiche di scatola nera del machine learning implichino distintamente nozioni di ragionevole trasparenza, i requisiti legali di motivazione possono essere soddisfatti spiegando lo scopo, il design e il funzionamento essenziale di un algoritmo. Inoltre, nuovi progressi tecnici permetteranno di rendere progressivamente più spiegabili gli algoritmi di machine learning. Il governo algoritmico può soddisfare i requisiti di trasparenza sia legali che pubblici, e contemporaneamente potenziare l’accuratezza, l’efficienza e anche potenzialmente la legittimità del governo.

Los algoritmos de aprendizaje automático están mejorando y automatizando funciones importantes en la medicina, el transporte y los negocios. Los funcionarios gubernamentales también han comenzado a darse cuenta de la precisión y la velocidad que brindan dichos algoritmos, confiando cada vez más en ellos para ayudar con las funciones del sector público, incluida la administración tributaria, la supervisión regulatoria y la administración de beneficios sociales. A pesar del superior poder predictivo de los algoritmos de aprendizaje automático, sobre las herramientas analíticas convencionales, los pronósticos algorítmicos son difíciles de comprender y explicar. Por lo tanto, la naturalezade "caja negra" del aprendizaje automático ha suscitado inquietudes: ¿Se puede encuadrar la gobernanza algorítmica con los principios legales de transparencia gubernamental? Analizamos esta pregunta y concluimos que la relativa inescrutabilidad de los algoritmos de aprendizaje automático no representa una barrera legal para su uso responsable por parte de las autoridades gubernamentales. Distinguimos entre los principios de “fishbowl transparency” y “reasoned transparency”, explicando cómo ambos están implicados por la gobernanza algorítmica, pero también demostrando que ninguna concepción obliga a la transparencia total. Aunque las características de la caja negra del aprendizaje automático implican de manera distintiva las nociones de reasoned transparency, las demandas legales de razonamiento pueden satisfacerse explicando el propósito, el diseño y el funcionamiento básico de un algoritmo. Además, los nuevos avances técnicos solo harán que los algoritmos de aprendizaje automático sean cada vez más explicables. La gobernanza algorítmica puede satisfacer las demandas legales y públicas de transparencia al mismo tiempo que mejora la precisión, la eficiencia e incluso la legitimidad potencial en el gobierno.

Keywords

Administrative law, regulation, open government, machine learning, autonomous systems, artificial intelligence, AI, e-government, big data, predictive analytics, algorithms, digital government, information technology, public administration, reason giving, reasoning, explainability, transparency, Diritto amministrativo, regolamentazione, governo aperto, machine learning, sistemi autonomi, intelligenza artificiale, IA, e-governo, big data, analisi predittive, algoritmi, governo digitale, tecnologia dell’informazione, pubblica amministrazione, motivazione, esplicabilità, trasparenza, Derecho administrativo, regulación, gobierno abierto, aprendizaje automático, sistemas autónomos, inteligencia artificial, IA, gobierno electrónico, big data, análisis predictivo, algoritmos, gobierno digital, tecnología de la información, administración pública, razonamiento, explicabilidad, transparencia

Publication Title

Administrative Law Review

Publication Citation

71 Admin. L. Rev. 1 (2019)

Download

Share

COinS