lu.se

Filosofiska institutionen

Humanistiska och teologiska fakulteterna | Lunds universitet

    Projekt om AI och etik får anslag av Wallenberg

    2019-09-13

    Christian Balkenius ska leda projektet "The imperfect creator creating the perfect: Ethics for autonomous systems/AI".

    Vilka värderingar och normer bör användas när vi bedömer hur autonoma AI-system fungerar ur ett etiskt perspektiv? Det är en fråga som en forskargrupp vid Lunds universitet kommer att undersöka under ledning av Christian Balkenius. Projektet finansieras med 6 miljoner kronor under fem år av Marianne och Marcus Wallenbergs Stiftelse. I projektet kommer även Ylva von Gerber, Birger Johansson och Frank Zenker att ingå.

    Även om teknologin är universell är moralen det inte. Redan nu styr olika etiska teorier debatten om vad AI ska, eller borde göra.

    Forskarna i projektet, The imperfect creator creating the perfect: Ethics for autonomous systems/AI, kommer att göra en konsekvensanalys av olika etiska teorier för att beskriva de mekanismer som krävs för att autonoma AI-system ska kunna bete sig i enlighet med vad de etiska teorierna förespråkar. Arbetet kommer att utgå ifrån modern inlärningsteori som utgår från att AI-systemen kan lära sig om konsekvenser utifrån erfarenhet samt genom observationer av människors beteende och känslor.

    Begreppen nytta, jämlikhet och överlägsenhet i jämförelse med människan kommer att vara centrala. Robotars förmåga att ta över enkla arbetsuppgifter och utföra dem billigare, mer exakt och utan att behöva vila gör nyttan uppenbar. Robotars och AI-systems förmåga att ta över mer komplicerade arbetsuppgifter och utföra dem som om de nästan vore människor, gör likheten tydlig. AI-utvecklingens nästa stora steg, då de blir självlärande men utan mänskliga fel och brister och då de kanske kommer att kunna fatta bättre beslut än människan, kan göra dem till överlägsna övermänniskor. Men hur beter de sig vid etiska dilemman? Ska nyttan för många ske på bekostnad av några? Vilken hänsyn ska tas till mänskliga rättigheter och integritet? Vilka algoritmer ska styra? Vad bedömer en stat, ett samhälle som gott? Vem avgör?

    Projektet är tvärvetenskapligt och består av forskare inom robotik, filosofi och kognitionsvetenskap.

    Projektet ingår i ett nationellt forskningsprogram, WASP-HS, som omfattar totalt 660 miljoner kronor under tio år, initierat av Marianne och Marcus Wallenbergs Stiftelse och Stiftelsen Marcus och Amalia Wallenbergs Minnesfond.

    Fakta om WASP-HS

    Forskningsprojektet ingår i WASP-HS, humanistisk och samhällsvetenskaplig forskning inom AI och autonoma system. Det är ett nationellt forskningsprogram som omfattar totalt 660 miljoner kronor under tio år, initierat av Marianne och Marcus Wallenbergs Stiftelse och Stiftelsen Marcus och Amalia Wallenbergs Minnesfond. Det tioåriga forskningsprogrammet ska framför allt analysera etiska, ekonomiska, arbetsmarknadsmässiga, sociala och juridiska aspekter som kan komma med det pågående teknikskiftet i samhället.

    Senaste nyheterna

    Filosofiska rummet – Vad säger kläderna?
    2019-10-03
    Frits Gåvertsson, lärare i praktisk filosofi, medverkade i Filosofiska rummet i P1 den 29 september ...

    Två nya avsnitt av "Mycket hjärna"
    2019-10-03
    Kognitionspodden Mycket hjärna har kommit med två nya avsnitt: Self-Efficacy - att tro på sin egen ...

    Cathrine Felix om misstag på jobbet
    2019-09-24
    Cathrine Felix, lärare i praktisk filosofi vid institutionen, intervjuades i Arbetet den 23 ...

    Two PhD positions in Practical philosophy at the department
    2019-09-24
    We have two vacant positions for doctoral students in Practical philosophy within ...

    Filmer från ENSO V i Lund
    2019-09-19
    2017 var Filosofiska institutionen värd för en internationell konferens om kollektiv handling och ...

    Fler nyheter