Patrignani spiega lo Slow Tech

Condividi:

Slow Tech: per un’informatica buona, pulita e giusta

di Norberto Patrignani

Riportiamo l’articolo pubblicato originariamente su Mondo Digitale di Settembre 2015.

Parleremo con Norberto Patrignani di Slow Tech il prossimo 9 maggio. Maggiori informazioni.

1.  Introduzione storica: la “Computer Ethics

Fu Norbert Wiener, uno dei “padri fondatori” della computer science, il primo ad invitare la comunità scientifica, e la società in generale ad interrogarsi sugli aspetti sociali ed etici dei computer [22]. Con lui nasce la “computer ethics” [2]. Le sue riflessioni vengono poi riprese da Parker, che sollevò la necessità di introdurre una riflessione etica tra i computer professionals: “It seemed that when people entered the computer center they left their ethics at the door” [12]. Con Weizenbaum la riflessione si concentra sui limiti dell’intelligenza artificiale e la cruciale distinzione tra decisione (una attività computazionale che può essere delegata ai computer) e scelta (una attività che, essendo basata su valori condivisi, è nelle mani degli esseri umani) [21]. Arriviamo così alla prima definizione di “computer ethics“, nel 1985, basata sul concetto di “policy- vacuum” introdotto da Moor: “… I computer ci offrono nuove possibilità e quindi nuove scelte da prendere. Spesso, non esistono linee di condotta o quelle esistenti sono inadeguate. Il compito centrale della computer ethics è quello di aiutarci a formulare linee guida …” [10]. La computer ethics nasce quindi per colmare un ritardo: la velocità dello sviluppo dell’ICT è troppo elevata rispetto alla capacità della società di affrontare le relative questioni sociali ed etiche. Questa fase primordiale della computer ethics è stata definita “compensatory computer ethics” o “reactive computer ethics” [13]. Il focus era sull’uso dei computer, non sulla loro progettazione, non veniva messa in discussione la catena di sviluppo e produzione dei sistemi stessi. A questa fase iniziale della computer ethics ne segue una più matura, che possiamo identificare con il contributo di Deborah Johnson con la sua definizione di “socio-tecnical systems“: “… la tecnologia non è soltanto artefatti, ma artefatti incorporati in pratiche sociali e infusi con significati sociali“, dunque la tecnologia e la società di plasmano a vicenda (co-shaping) e quindi diventa fondamentale guardare i sistemi ICT come “socio-technical systems” [6].

Arriviamo quindi all’epoca attuale, dove, dopo circa trenta anni dalla iniziale definizione di Moor, è diventato necessario anticipare i problemi legati ai computer, diventa necessaria una “proactive computer ethics“, dove viene messa in discussione l’evoluzione dell’ICT stessa e non accettata come inevitabile. I sistemi vengono analizzati da un punto di vista etico fin dalla fase di progettazione e attraverso il loro intero ciclo di vita, e questo implica un dialogo continuo tra i progettisti dei sistemi, gli scienziati dei computer e la società stessa. Il processo di sviluppo del software incorpora una approfondita analisi dei rischi fin dall’inizio [5]. Se davvero c’è una relazione di co-shaping tra tecnologia e società, ebbene diventa possibile partire proprio dagli esseri umani nella definizione dei requisiti iniziali, uno scenario dove esperti delle diverse discipline (ingegneria, antropologia, human-computer interaction, filosofia, sociologia, etc.) iniziano a lavorare insieme. Il compito della computer ethics non è più solo uno strumento per colmare un gap (policy-vacuum), essa diventa fondamentale per indirizzare in modo costruttivo lo sviluppo dei sistemi verso una innovazione responsabile che pone gli esseri umani, la sostenibilità ambientale e l’etica, alla base dello sviluppo della scienza e della tecnologia.

2. Il quadro europeo: la “Responsible Research and Innovation”

Un importante passo verso una visione più responsabile dell’ICT è avvenuto con l’introduzione del concetto di “Responsible Research and Innovation” (RRI) della EU Commission nel quadro del programma di ricerca Horizon-2020. La RRI viene definita come una metodologia che “anticipa e valuta le potenziali implicazioni e le aspettative sociali, … con lo scopo di favorire una ricerca e innovazione inclusiva e sostenibile.” e questo implica che tutti gli stakeholders (ricercatori, imprese, utenti, cittadini, policy-makers, etc.) lavorino insieme. La EU Commission articola il concetto di RRI in diversi elementi tematici come: coinvolgimento pubblico, open access, questioni di genere, etica, scienza e educazione [16].

Negli ultimi anni i ricercatori del settore hanno lavorato per tradurre i principi della RRI in azioni più pratiche: tra i risultati più importanti vi è la connessione tra l’evoluzione della computer ethics e l’importanza del coinvolgimento di tutti gli stakeholders nella progettazione dei sistemi complessi. Il problema centrale emerso in queste ricerche consiste nell’includere gli aspetti etici dell’ICT nella ricerca e nei processi dell’innovazione (quando una idea creativa viene valutata da uno studio di fattibilità, implementata e provata in un prototipo e infine ingegnerizzata in un prodotto o servizio per il mercato). Un modo per affrontare questa complessa questione progettuale è quello di adottare un approccio ad “anello chiuso”, un modello ereditato dallo schema classico dei sistemi a feedback: la circolarità permette di effettuare correzioni di rotta in itinere includendo ovviamente gli stakeholders nel processo (fig.1) mentre i singoli blocchi sono un adattamento dai risultati di diverse ricerche recenti [4][19][20].

Slow Tech

3. Slow Tech, una proactive Computer Ethics

Slow Tech non è una tecnologia lenta, è un messaggio che propone una riflessione e allo stesso tempo vuole essere una bussola per guidarci nello sviluppo di sistemi ICT con un profondo approccio etico. Il termine si ispira a Slow Food, l’organizzazione internazionale nata nel 1989 in Italia per contrastare l’ascesa di “fast food e fast life” [18]. Slow Food si concentra sull’importanza di un cibo buono, pulito, e giusto, introducendo una riflessione sull’intera catena del valore del cibo: dalla produzione alla tavola. Carlo Petrini, fondatore del movimento, descrive Slow Food come un cibo che deve essere buono (un piacere da gustare), pulito (prodotto con criteri che rispettano l’ambiente, promuovendo la bio-diversità e la sostenibilità) e giusto (coltivato e prodotto nel rispetto dei diritti dei coltivatori, dei contadini) [14].

Con lo stesso approccio, Slow Tech propone una riflessione sull’intera catena del valore dell’ICT, non si concentra solo sull’impatto sociale ed etico legato al loro uso, ma allarga la riflessione etica alla produzione e sviluppo dell’ICT da una parte, e alla chiusura del ciclo dei rifiuti elettronici dall’altra. Slow Tech vuole contribuire ad una proactive computer ethics, con una ICT che sia socialmente desiderabile, ambientalmente sostenibile e eticamente accettabile, un’informatica buona, pulita e giusta [13].

3.1.  Un’informatica buona

Come può tradursi la nostra interazione con i computer in un’esperienza piacevole? Il punto di partenza è sicuramente quello di mettere l’umano al centro del processo di progettazione, un approccio human-centred garantisce che il sistema e le sue interfacce tengano in considerazione i limiti degli esseri umani avendo come obettivo il loro ben-essere (well-being). Una informatica buona può  migliorare la  nostra esperienza  e  allo  stesso  tempo  aiutarci  nel portare a termine certi compiti che sono per noi noiosi e poco piacevoli. Gli esseri umani però invecchiano, dimenticano, si distraggono e quindi è importante pensare sistemi che siano multimodali, accessibili anche a persone con forme di disabilità (design-for-all). Una informatica buona dovrà anche aiutarci nel trovare un giusto equilibrio tra tempo di lavoro e tempo libero: l’ICT è anche il principale motore della fast life, dell’accelerazione delle nostre vite verso un malinteso concetto di multitasking, dove la possibilità dell’always-on, di essere sempre online inizia ad avere impatti anche negativi sulla qualità del lavoro. Un’informatica buona espone con onestà anche i limiti della tecnologia, ad esempio, spiegando i rischi legati all’inaffidabilità del software [5], in particolare in applicazioni life-critical come quelle in medicina o in applicazioni militari. Nei luoghi di lavoro, un’informatica buona significa automatizzare alcuni processi partendo dal coinvolgimento dei lavoratori stessi nella progettazione dei sistemi che useranno (participatory-design).

3.2.  Un’informatica pulita

Un’informatica pulita dovrà evitare di danneggiare l’ambiente o di nuocere alla salute degli esseri umani. La ricerca sulla sostenibilità a lungo termine dell’ICT è stata avviata solo da qualche anno [7] e iniziano ad emergere alcuni aspetti controversi per l’ambiente. In effetti stiamo scoprendo che l’ICT genera prodotti nocivi nella produzione, nel consumo e nello smaltimento alla fine della loro vita.

Fino a pochi anni fa gli elementi chimici usati nella produzione dei microprocessori (le cosiddette “terre rare”) non venivano presi in considerazione dal punto di vista della loro sostenibilità a lungo termine. Un recente studio della Yale University ha fatto emergere questo dibattito cruciale per i futuro dell’ICT [17].

Un altro aspetto che sta emergendo grazie al cloud computing è l’impatto ambientale dovuto all’energia elettrica necessaria per alimentare i giganteschi datacenter dei cloud provider [15], ormai la CO2 prodotta dall’ICT è paragonabile a quella delle linee aeree.

Un’informatica pulita prevede fin dalla progettazione il riciclo e riuso dei materiali contribuendo così ad affrontare uno dei principali problemi ambientali legati all’ICT, la gestione dei rifiuti elettronici. Il concetto di recyclable-by-design si sta affermando anche nell’ICT e l’orientamento verso il waste-free [9], unito alla riflessione critica sugli stili di vita che impongono di cambiare dispositivo elettronico ogni pochi mesi, contribuiranno sicuramente a migliorare la sostenibilità a lungo termine dell’ICT stessa.

3.3.  Un’informatica giusta

Un’informatica giusta dovrà essere rispettosa dei diritti umani, della sicurezza e della salute dei lavoratori lungo tutta la catena del valore dell’ICT. La difficoltà risiede nel fatto che la rete di stakeholders coinvolti in questa catena è molto ampia e complessa, e proprio per questo spesso poco trasparente. Grazie ad una serie di articoli sulla stampa statunitense nel 2012, sono emerse le condizioni di lavoro nelle fabbriche elettroniche del Sud-est asiatico e questo dibattito ha avviato una promettente discussione sui diritti dei lavoratori [1].

Un’informatica giusta contribuisce all’innovazione dell’economia e della società, e questo potenziale si esprime al massimo quando i formati, gli standard dell’ICT sono aperti. Ormai abbiamo esempi storici come l’open software, l’open hardware, e l’open data o lo stesso protocollo dell’Internet, il TCP/IP, sono tutti esempi di piattaforme standard che offrono la possibilità di creare nuovi servizi e prodotti al di sopra di essi, usando appunto le interfacce aperte. Ecco quindi che un’informatica giusta potrà stimolare l’innovazione e la creazione di imprese high-tech innovative proprio perché offre interfacce libere e i codici e i formati sono aperti. Queste nuove imprese offrono servizi di consulenza, personalizzazione, e manutenzione di tecnologie hardware e software: uno dei tanti esempi della nascente sharing-economy.

4.            Casi di studio

Quanto sono applicabili nella realtà i principi Slow Tech? Come può essere usata la Slow Tech come bussola, come indicatore per verificare se ci si sta muovendo nella direzione giusta? Tra i molti esempi di imprese ICT reali, analizzati per verificare se hanno indirizzato i loro prodotti e servizi verso una Slow Tech, di seguito vengono presentate tre diverse esperienze: una storica, l’Olivetti, che, pur non esistendo più come azienda, ha lasciato una grande eredità scientifica, tecnologica e culturale a tutta la comunità informatica italiana e internazionale; una seconda esperienza è relativa ad un sistema robotico di una azienda italiana dell’high-tech; una terza riguarda una piccola impresa olandese che sta accettando la difficile sfida di produrre smart-phone con un approccio Slow Tech.

4.1.  Olivetti

Olivetti è un caso storico di una impresa italiana diretta da uno dei più importanti industriali e visionari del ventesimo secolo: Adriano Olivetti (1901-1960). L’impresa sviluppò tecnologie innovative e nello stesso tempo si focalizzò sull’innovazione, la solidarietà, e la responsabilità sociale. Alcuni esempi delle sue realizzazioni: Olivetti ELEA 9003, nel 1959, il primo mainframe basato su transistor e disegnato da Ettore Sottsass, uno dei più famosi designer del ‘900; Olivetti P101 il primo personal computer, nel 1965 [23]. Adriano Olivetti dedicò la sua vita alla costruzione di una comunità reale attorno alla fabbrica, una comunità dove tecnologia, qualità della vita e bellezza venivano poste al centro dell’impresa. Olivetti riuscì a creare una tecnologia buona, pulita, e giusta nel quadro di una forte strategia di responsabilità sociale. Significative sono le sue parole nel discorso del 8 Novembre 1959, pochi mesi prima di morire, in occasione della presentazione dell’ELEA 9003: “Con la realizzazione dell’Elea, la nostra Società non estende semplicemente la sua tradizionale produzione a un nuovo settore di vastissime possibilità, ma tocca una meta in cui direttamente si invera quello che penso sia l’inalienabile, più alto fine che un’industria deve porsi di operare, … per il progresso comune – economico, sociale, etico – della intera collettività” [11].

4.2.  Loccioni

Loccioni è una piccola-media impresa italiana, basata nelle Marche, che ha sviluppato un approccio profondamente etico alla progettazione dei suoi prodotti e servizi, con una forte attenzione all’ambiente e una notevole strategia di responsabilità sociale (Loccioni è l’unica azienda italiana nei primi posti della classifica “Great Place to Work” degli ultimi anni). Uno dei suoi prodotti, APOTECA, è una applicazione robotica per ospedali progettata nel 2010. Questo braccio robotico prepara dosaggi ad altissima precisione di medicinali usati nelle terapie dei tumori. La manipolazione di questi prodotti richiede una precisione ed una grande attenzione alla sicurezza dei pazienti e delle persone che lavorano nella farmacia dell’ospedale: “… APOTECA è una piattaforma per la preparazione di terapie endovenose pericolose. Essa rende ogni passo del processo di preparazione programmabile, controllabile, tracciabile e analizzabile … si integra con il sistema informativo ospedaliero, automatizza completamente i compiti critici e complessi relativi alla preparazione di additivi chemio-terapici specifici del paziente, semplifica il flusso delle operazioni di farmacia e offre l’accesso a una serie completa di dati sulla produzione” [8]. Il sistema è stato sviluppato con un approccio “participatory design” coinvolgendo i principali stakeholders (personale della farmacia dell’ospedale, infermieri, medici, pazienti, familiari, etc.) ed è attualmente installato in molti ospedali in tutto il mondo.

4.3.  Fairphone

Fairphone è una impresa sociale fondata nel 2010 a Amsterdam con l’obiettivo di contribuire alla costruzione di un movimento per una tecnologia più giusta, a partire dallo smart-phone: un “fairphone“. Una trentina di persone di sono messe insieme per lavorare all’impresa adottando un approccio di assoluta trasparenza nei confronti dell’intera catena dei fornitori, dalla provenienza dei minerali usati, alla progettazione, alla produzione e all’intero ciclo di vita, inclusa la gestione dei rifiuti elettronici. L’obiettivo è quello di spiegare le connessioni tra le persone, i prodotti che usano e l’ambiente, adottando un approccio etico all’industria ICT in tutte le sue fasi: estrazione di minerali (usando materiali che supportano le economie locali e che non provengono da paesi in guerra), progettazione (concentrata sulla longevità dei prodotti e sulla loro riparabilità, sulla modularità, rendendo semplice aprire e riparare le parti guaste più comuni; fornendo manuali per la riparazione, condividendo la conoscenza e basandosi sui pricipi del software libero), produzione (assicurando giuste condizioni di lavoro nelle fabbriche, anche attraverso la creazione di un Worker Welfare Fund per migliorare la sicurezza e la qualità degli ambienti di lavoro e per la formazione delle persone), ciclo di vita (massimizzando l’uso, il riuso e il riciclo in condizioni sicure), imprenditoria sociale (focalizzandosi sui valori sociali dell’impresa  e sulla trasparenza nei confronti dei consumatori: anche se la giustizia sociale assoluta non è possibile, essi dimostrano però di muoversi nella giusta direzione). Fairphone ha già venduto più di 60.000 “fairphones” [3]. Un buon esempio di approccio Slow Tech.

5.            Conclusioni

La proposta Slow Tech si inquadra nell’evoluzione storica della computer ethics e propone un approccio proattivo, in accordo con le più recenti ricerche sulla RRI, che tiene in considerazione i limiti degli esseri umani come pure i limiti del pianeta. La prossima generazione di progettisti di sistemi ICT potrà usare il principi Slow Tech come  una  proactive computer  ethics  come  applicazione pratica degli insegnamenti provenienti dalle ricerche sulla “Responsible Research and Innovation“. Da questo dialogo tra le diverse discipline e tra scienza, tecnologia, società e policy-makers sta nascendo un’informatica con una visione a lungo termine, attenta all’impatto sociale ed ambientale dell’ICT. Sta nascendo una Slow Tech, un’informatica buona, pulita e giusta.

Bibliografia

[1] Bradshaw, K. and Duhigg, C. (2012), Quietly, better work conditions take hold at Chinese factories, International Herald Tribune, 28 December.

[2] Bynum, T.W. (1999), The foundation of computer ethics, keynote address at The Australian Institute of Computer Ethics Conference 1999 (AICEC99), Melbourne, Australia, July.

[3] Fairphone, (2015), www.fairphone.com, 24 Luglio 2015.

[4] FRIICT (2014), Framework for Responsible Research and Innovation in ICT, responsible-innovation.org.uk, 20 Luglio 2015.

[5] Gotterbarn, D., Rogerson, S. (2005), Next generation software development: responsible risk analysis using SoDIS, Communications of the Association for Information Systems, Vol. 15, pp. 730-750.

[6] Johnson, D.G. (1985), Computer Ethics, 4th ed., Prentice-Hall, Upper Saddle River, NJ, 2009.

[7] Kuhndt, M., von Geibler, J. Herrndorf, M. (2006), Assessing the ICT sector contribution to the millennium development goals: status quo analysis of sustainability information for the ICT sector, Wuppertal Report No. 3, Wuppertal Institute for Climate Environment and Energy, Wuppertal.

[8] Loccioni-Humancare (2015), humancare.loccioni.com, 24 Luglio 2015.

[9] Lovins, L.H. (2008), Rethinking production, State of the World 2008 – Innovations for a Sustainable World, The Worldwatch Institute, Washington, DC.

[10] Moor, J.H. (1985), What is computer ethics?, Metaphilosophy, Vol. 16 No. 4, 266-275.

[11] Olivetti A. (1959), Il mondo che nasce, Edizioni di Comunità, 2013.

[12]  Parker,  D.  (1968),  Rules  of  ethics  in  information  processing, Communications of the ACM, Vol. 11 No. 3.

[13] Patrignani, N., Whitehouse, D. (2014). Slow Tech: a quest for good, clean and fair ICT, Journal of Information, Communication and Ethics in Society, Vol. 12, n.2, 2014, ISSN: 1477-996X, pp. 79-92.

[14] Petrini, C. (2011), Buono, Pulito e Giusto. Principi di Nuova Gastronomia, Einaudi, Torino.

[15] Rowe, A., Lewis, A., Flanagan, C. (2011), Is the cloud green?, Fujitsu White Paper. [16] RRI (2015), Responsible Research and Innovation, https://ec.europa.eu/programmes/horizon2020/en/h2020-section/responsible- research-innovation, 24 Luglio 2015.

[17] Schmitz, O.J., Graedel, T.E. (2010), The Consumption Conundrum: Driving the Destruction Abroad, http://e360.yale.edu, 20 Luglio 2015.

[18] Slow Food International (1989),

www.slowfood.com/international/1/about-us, 20 Luglio 2015.

[19] Stahl, B.C., Eden, G., Jirotka, M., Coeckelbergh, M. (2014). From Computer Ethics to Responsible Research and Innovation, Information & Management, Vol. 51, Issue 6, September 2014, pp.810-818, Elsevier.

[20] Stilgoe, J., Owen, R., Macnaghten., P. (2013), Developing a framework for responsible innovation. Research Policy, 42, November, Elsevier.

[21] Weizenbaum, J. (1976), Computer Power and Human Reason: From Judgment to Calculation, Freeman, San Francisco, CA.

[22] Wiener, N. (1950), The Human Use of Human Beings: Cybernetics and Society, 2nd ed. revised, HoughtonMifflin and Doubleday Anchor, Boston, MA, 1954.

[23] WSJ (1965), Desk-Top Size Computer Is Being Sold by Olivetti For First Time in US, Wall Street Journal, October 15, 1965.

Condividi:
Sommario

L'articolo introduce il termine Slow Tech nell'evoluzione della Computer Ethics. L'approccio Slow Tech propone di introdurre un'informatica buona (bisogni esseri umani), pulita (minimizza l'impatto ambientale) e giusta (condizioni dei lavoratori).

  • Questo articolo è interessante (0 no - 5 sì)?
User Rating: 4.6 ( 1 Votes )

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.