While While #ArtificialIntelligence is helping in the fight against #COVID19, and seeps into more areas of daily life, its misuse can also lead to serious harm.
Ισχυρά ψηφιακά εργαλεία που χρησιμοποιούν λογισμικό τεχνητής νοημοσύνης (AI) βοηθούν στην καταπολέμηση του COVID-19 και έχουν τη δυνατότητα να βελτιώσουν τον κόσμο με πολλούς άλλους τρόπους. Ωστόσο, καθώς η τεχνητή νοημοσύνη διεισδύει σε περισσότερους τομείς της καθημερινής ζωής, καθίσταται σαφές ότι η κατάχρηση του μπορεί να οδηγήσει σε σοβαρή βλάβη, οδηγώντας τα Ηνωμένα Έθνη να απαιτήσουν ισχυρή, διεθνή ρύθμιση της τεχνολογίας.
Η φράση «τεχνητή νοημοσύνη» μπορεί να δημιουργήσει εικόνες μηχανών που είναι σε θέση να σκέφτονται και να ενεργούν, όπως και οι άνθρωποι, ανεξάρτητα από οποιαδήποτε επίβλεψη από τους πραγματικούς ανθρώπους με σάρκα και αίμα. Οι εκδόσεις ταινιών του AI τείνουν να διαθέτουν υπερ-ευφυείς μηχανές που προσπαθούν να ανατρέψουν την ανθρωπότητα και να κατακτήσουν τον κόσμο.
Η πραγματικότητα είναι πιο περήφανη και τείνει να περιγράφει λογισμικό που μπορεί να λύσει προβλήματα, να βρει μοτίβα και, σε κάποιο βαθμό, να «μάθει». Αυτό είναι ιδιαίτερα χρήσιμο όταν τεράστιες ποσότητες δεδομένων πρέπει να ταξινομηθούν και να γίνουν κατανοητές και το AI χρησιμοποιείται ήδη σε πολλά σενάρια, ιδιαίτερα στον ιδιωτικό τομέα.
Τα παραδείγματα περιλαμβάνουν chatbots που μπορούν να διεξάγουν ηλεκτρονική αλληλογραφία. διαδικτυακοί ιστότοποι αγορών που μαθαίνουν πώς να προβλέπουν τι μπορεί να θέλετε να αγοράσετε. και δημοσιογράφοι τεχνητής νοημοσύνης που γράφουν αθλητικά και επιχειρηματικά άρθρα (αυτή η ιστορία ήταν, μπορώ να σας διαβεβαιώσω, γραμμένη από έναν άνθρωπο).
Και, ενώ μια πρόσφατη είδηση από το Ιράν έχει αναζωογονήσει φόβους σχετικά με τη χρήση δολοφονικών ρομπότ (οι ιρανικές αρχές ισχυρίστηκαν ότι ένα «πολυβόλο με AI» χρησιμοποιήθηκε για τη δολοφονία του ανώτερου πυρηνικού επιστήμονα της χώρας), αρνητικές ιστορίες που συνδέονται με την AI, οι οποίες έχουν συμπεριλάβει λανθασμένους βαθμούς εξετάσεων στο Ηνωμένο Βασίλειο, έναν αθώο άντρα που στάλθηκε στη φυλακή στις ΗΠΑ και τα προσωπικά δεδομένα που κλαπεί παγκοσμίως, είναι πιο πιθανό να αφορούν την κακή χρήση του και το ντεμοντέ ανθρώπινο λάθος.
Πριν από την έναρξη ενός οδηγού του ΟΗΕ για την κατανόηση της ηθικής της AI, εδώ είναι πέντε πράγματα που πρέπει να γνωρίζετε για τη χρήση της AI, τις συνέπειές της και πώς μπορεί να βελτιωθεί.
1) Οι συνέπειες της κατάχρησης μπορεί να είναι καταστροφικές
Τον Ιανουάριο, ένας αφρικανικός Αμερικανός άνδρας στην πολιτεία του Μίσιγκαν των ΗΠΑ, συνελήφθη για έγκλημα κλοπής κλοπής που δεν γνώριζε τίποτα. Συνελήφθη μετά από χειροπέδες έξω από το σπίτι του μπροστά από την οικογένειά του.
Πιστεύεται ότι είναι η πρώτη παράνομη σύλληψη αυτού του είδους: οι εμπλεκόμενοι αστυνομικοί είχαν εμπιστευτεί την αναγνώριση προσώπου AI για να πιάσουν τον άντρα τους, αλλά το εργαλείο δεν είχε μάθει πώς να αναγνωρίζει τις διαφορές μεταξύ μαύρων προσώπων, επειδή οι εικόνες που χρησιμοποιούνται για την εκπαίδευση του ως επί το πλείστον ήταν λευκά πρόσωπα.
Ευτυχώς, έγινε γρήγορα ξεκάθαρο ότι δεν έμοιαζε με τον ύποπτο σε φωτογραφικές μηχανές ασφαλείας του καταστήματος και απελευθερώθηκε, παρόλο που πέρασε αρκετές ώρες στη φυλακή.
Και, τον Ιούλιο, υπήρξε αναταραχή στο Ηνωμένο Βασίλειο, όταν τα όνειρα πολλών φοιτητών που ελπίζουν να πάνε στο πανεπιστήμιο της επιλογής τους διαλύθηκαν, όταν χρησιμοποιήθηκε ένα πρόγραμμα υπολογιστή για την αξιολόγηση των βαθμών τους (οι παραδοσιακές εξετάσεις είχαν ακυρωθεί, λόγω του Πανδημία COVID-19 ).
Για να καταλάβουν τι θα είχαν οι μαθητές εάν είχαν κάνει εξετάσεις, το πρόγραμμα πήρε τους υπάρχοντες βαθμούς του, και επίσης έλαβε υπόψη το ιστορικό του σχολείου τους με την πάροδο του χρόνου. Αυτό κατέληξε να τιμωρεί τους λαμπρούς μαθητές από γειτονιές μειονοτήτων και χαμηλού εισοδήματος, οι οποίοι είναι πιο πιθανό να πάνε σε σχολεία που, συνολικά, έχουν χαμηλότερους μέσους βαθμούς από τα σχολεία που φοιτούν πλουσιότεροι μαθητές
Αυτά τα παραδείγματα δείχνουν ότι, για να λειτουργούν σωστά τα εργαλεία AI, οι καλά εκπαιδευμένοι επιστήμονες δεδομένων πρέπει να εργάζονται με δεδομένα υψηλής ποιότητας. Δυστυχώς, πολλά από τα δεδομένα που χρησιμοποιούνται για τη διδασκαλία της τεχνητής νοημοσύνης προέρχονται επί του παρόντος από καταναλωτές σε όλο τον κόσμο, συχνά χωρίς τη ρητή συγκατάθεσή τους: οι φτωχότερες χώρες συχνά δεν έχουν τη δυνατότητα να διασφαλίσουν ότι προστατεύονται τα προσωπικά δεδομένα ή να προστατεύουν τις κοινωνίες τους από τις καταστροφικές κυβερνοεπιθέσεις και παραπληροφόρηση που έχουν αυξηθεί από την πανδημία COVID-19.
2) Το μίσος, η διαίρεση και τα ψέματα είναι καλά για τις επιχειρήσεις
Πολλές εταιρείες κοινωνικών μέσων μαζικής ενημέρωσης δέχτηκαν τη γνώση σκεπτικιστών για τη χρήση αλγορίθμων, που υποστηρίζονται από AI, σε χρήστες μικρο-στόχων και τους στέλνουν προσαρμοσμένο περιεχόμενο που θα ενισχύσει τις προκαταλήψεις τους. Όσο πιο φλεγμονώδες είναι το περιεχόμενο, τόσο περισσότερες πιθανότητες θα καταναλωθεί και θα κοινοποιηθεί.
Ο λόγος που αυτές οι εταιρείες είναι στην ευχάριστη θέση να «σπρώξουν» κοινωνικά διαχωριστικό, πολωτικό περιεχόμενο στους χρήστες τους, είναι ότι αυξάνει την πιθανότητα να παραμείνουν περισσότερο στην πλατφόρμα, γεγονός που κρατά τους διαφημιστές τους ευχαριστημένους και αυξάνει τα κέρδη τους.
Αυτό αύξησε τη δημοτικότητα των εξτρεμιστικών, γεμάτων μίσος δημοσιεύσεις, που διαδόθηκαν από ομάδες που διαφορετικά θα ήταν ελάχιστα γνωστές στολές. Κατά τη διάρκεια της πανδημίας COVID-19, οδήγησε επίσης στη διάδοση επικίνδυνων παραπληροφόρησης σχετικά με τον ιό, που ενδέχεται να οδηγήσει σε περισσότερους ανθρώπους να μολυνθούν, λένε πολλοί ειδικοί.
3) Η παγκόσμια ανισότητα αντικατοπτρίζεται στο Διαδίκτυο
Υπάρχουν ισχυρές ενδείξεις που υποδηλώνουν ότι η τεχνητή νοημοσύνη παίζει ρόλο στο να κάνει τον κόσμο πιο άνισο και ωφελεί ένα μικρό ποσοστό ανθρώπων. Για παράδειγμα, περισσότερα από τα τρία τέταρτα όλων των νέων ψηφιακών καινοτομιών και διπλωμάτων ευρεσιτεχνίας παράγονται από μόλις 200 εταιρείες. Από τις 15 μεγαλύτερες ψηφιακές πλατφόρμες που χρησιμοποιούμε, 11 είναι από τις ΗΠΑ, ενώ οι υπόλοιπες είναι κινεζικές.
Αυτό σημαίνει ότι τα εργαλεία AI σχεδιάζονται κυρίως από προγραμματιστές στη Δύση. Στην πραγματικότητα, αυτοί οι προγραμματιστές είναι συντριπτικά λευκοί άντρες, οι οποίοι αντιπροσωπεύουν επίσης τη συντριπτική πλειονότητα των συγγραφέων σε θέματα AI. Η περίπτωση της παράνομης σύλληψης στο Μίσιγκαν είναι ένα μόνο παράδειγμα των κινδύνων που ενέχει η έλλειψη ποικιλομορφίας σε αυτόν τον εξαιρετικά σημαντικό τομέα.
Σημαίνει επίσης ότι, έως το 2030, η Βόρεια Αμερική και η Κίνα αναμένεται να πάρουν το μερίδιο του λέοντος στα οικονομικά κέρδη, που αναμένεται να ανέλθει σε τρισεκατομμύρια δολάρια, που η AI προβλέπεται να δημιουργήσει.
4) Τα πιθανά οφέλη είναι τεράστια
Αυτό δεν σημαίνει ότι η AI πρέπει να χρησιμοποιείται λιγότερο: οι καινοτομίες που χρησιμοποιούν την τεχνολογία είναι εξαιρετικά χρήσιμες για την κοινωνία, όπως έχουμε δει κατά τη διάρκεια της πανδημίας.
Κυβερνήσεις σε όλο τον κόσμο έχουν στραφεί σε ψηφιακές λύσεις σε νέα προβλήματα, από εφαρμογές ανίχνευσης επαφών, σε τηλε-φάρμακα και φάρμακα που παραδίδονται από drone και, για να παρακολουθεί την παγκόσμια εξάπλωση του COVID-19, η AI έχει χρησιμοποιηθεί για την τράτα μέσω τεράστιων αποθεμάτων δεδομένων που προέρχονται από τις αλληλεπιδράσεις μας στα κοινωνικά μέσα και στο Διαδίκτυο
Ωστόσο, τα οφέλη ξεπερνούν την πανδημία: η AI μπορεί να βοηθήσει στην καταπολέμηση της κλιματικής κρίσης, να τροφοδοτήσει μοντέλα που θα μπορούσαν να βοηθήσουν στην αποκατάσταση των οικοσυστημάτων και των οικοτόπων και στην επιβράδυνση της απώλειας βιοποικιλότητας και να σώσει ζωές βοηθώντας τις ανθρωπιστικές οργανώσεις να κατευθύνουν καλύτερα τους πόρους τους όπου χρειάζονται περισσότερο.
Το πρόβλημα είναι ότι τα εργαλεία τεχνητής νοημοσύνης αναπτύσσονται τόσο γρήγορα που ούτε οι σχεδιαστές, οι εταιρικοί μέτοχοι ούτε οι κυβερνήσεις είχαν χρόνο να εξετάσουν τις πιθανές παγίδες αυτών των εκθαμβωτικών νέων τεχνολογιών.
5) Πρέπει να συμφωνήσουμε σχετικά με τον διεθνή κανονισμό AI
Για τους λόγους αυτούς, ο οργανισμός εκπαίδευσης, επιστήμης και πολιτισμού των Ηνωμένων Εθνών, η UNESCO , συμβουλεύεται ένα ευρύ φάσμα ομάδων, συμπεριλαμβανομένων εκπροσώπων της κοινωνίας των πολιτών, του ιδιωτικού τομέα και του κοινού, προκειμένου να θέσει διεθνή πρότυπα τεχνητής νοημοσύνης και να διασφαλίσει ότι Η τεχνολογία έχει μια ισχυρή ηθική βάση, η οποία περιλαμβάνει το κράτος δικαίου και την προώθηση των ανθρωπίνων δικαιωμάτων.
Σημαντικοί τομείς που πρέπει να ληφθούν υπόψη περιλαμβάνουν τη σημασία της μεγαλύτερης ποικιλομορφίας στον τομέα της επιστήμης των δεδομένων για τη μείωση της προκατάληψης, και των φυλετικών και στερεοτύπων των φύλων. την κατάλληλη χρήση της τεχνητής νοημοσύνης σε δικαστικά συστήματα για να τα καταστήσουν πιο δίκαια και πιο αποτελεσματικά · και εξεύρεση τρόπων για να διασφαλιστεί ότι τα οφέλη της τεχνολογίας κατανέμονται σε όσο το δυνατόν περισσότερους ανθρώπους.
https://news.un.org/en/story/2020/12/1080192?fbclid=IwAR08USm3CAQa3jgRunnfZ-2upOdSN2HW-XpRVYvWxtNbAgVhn-Xw1EFFHz0
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου