Big data: ängel eller demon?

Numera används algoritmer allt oftare som stöd för att avgöra vem som anställs eller befordras, eller rentav får sparken. I framtiden kan de utmäta straff vid domslut. Risken med algoritmer är att de cementerar status quo likt en slinga av evig, självförstärkande återkoppling. Ifall en könsspecifik algoritm bestämde över rekryteringen inom finans eller teknik så skulle få kvinnor någonsin kallas till intervju.

Det är upp till oss själva som medborgare, väljare och konsumenter att bli mer medvetna och kunniga om de matematiska modellerna som styr våra liv. Speciellt eftersom de kan reproducera en (omedveten) inkodad rasism, elitism eller sexism. Algoritmer kan också utnyttjas predatoriskt för att rikta reklamkampanjer mot outbildade, resurssvaga och sårbara konsumenter.

Vi måste börja använda våra egna hjärnor, skärpa vår kritiska tankeförmåga, ifrågasätta faraonerna och kräva att få kika in under motorhuven. Vi behöver förstå algoritmerna, kräva transparens och hålla deras skapare till svars. Data är inte objektivt. Data är ett etiskt minfält.

Affärsmagasinet Forum

Torsten Fagerholm om att vi måste börja använda våra egna hjärnor, skärpa vår kritiska tankeförmåga, ifrågasätta faraonerna och kräva att få kika in under motorhuven för att vi behöver förstå algoritmerna, kräva transparens och ställa deras skapare till svars eftersom data inte är objektivt utan ett etiskt minfält.