Ο AI Act εισάγει ένα πλαίσιο κανόνων που διαφοροποιεί τις υποχρεώσεις ανάλογα με το είδος και τη χρήση ενός συστήματος τεχνητής νοημοσύνης. Για ορισμένες πρακτικές προβλέπεται απαγόρευση, ενώ άλλα συστήματα υπόκεινται σε υποχρεώσεις διαφάνειας ή, όταν χαρακτηρίζονται υψηλού κινδύνου, σε αυστηρότερες απαιτήσεις ως προς τη διαχείριση κινδύνων, την τεκμηρίωση και την ανθρώπινη εποπτεία. Η κατάταξη ενός συστήματος δεν εξαρτάται μόνο από την τεχνολογία που χρησιμοποιεί, αλλά και από τον σκοπό και τον τρόπο με τον οποίο εφαρμόζεται. Γι’ αυτό η νομική αξιολόγηση πρέπει να ξεκινά από το ίδιο το σύστημα και την πραγματική του χρήση. Ο δικηγόρος τεχνητής νοημοσύνης εξετάζει ποιο είναι το σύστημα, ποιος το αναπτύσσει ή το χρησιμοποιεί, ποιος είναι ο ρόλος της επιχείρησης ως παρόχου ή φορέα εφαρμογής και ποιες υποχρεώσεις προκύπτουν από το εφαρμοστέο κανονιστικό πλαίσιο. Η σωστή αξιολόγηση στην αρχή μπορεί να επηρεάσει τον σχεδιασμό του προϊόντος, τις διαδικασίες συμμόρφωσης και τον τρόπο με τον οποίο αυτό θα διατεθεί στην αγορά.
Η απουσία ειδικού κανόνα για μια νέα τεχνολογία δεν σημαίνει απουσία νομικού κινδύνου. Μια επιχείρηση που αναπτύσσει ρομποτική, αυτόνομα συστήματα ή μια νέα εφαρμογή AI δεν βρίσκεται εκτός του δικαίου επειδή δεν υπάρχει ακόμη ειδική ρύθμιση που να περιγράφει ακριβώς την τεχνολογία της. Το δίκαιο ευθύνης προϊόντος, η προστασία των καταναλωτών, η ασφάλεια προϊόντων, το δίκαιο των συμβάσεων και, ανάλογα με τη δραστηριότητα, ειδικότερες κανονιστικές απαιτήσεις εξακολουθούν να εφαρμόζονται. Η νομική αξιολόγηση επομένως δεν μπορεί να περιορίζεται στην αναζήτηση ενός κανόνα που αναφέρεται ονομαστικά στη συγκεκριμένη τεχνολογία.
Όταν η τεχνολογία εξελίσσεται ταχύτερα από τη νομοθεσία, η νομική αξιολόγηση πρέπει να ξεκινά από τις αρχές που ήδη εφαρμόζονται — ευθύνη, ασφάλεια, προστασία δεδομένων, συμβάσεις και τους ειδικούς κανόνες του κλάδου.
Η πολυπλοκότητα αυξάνεται όταν ένα σύστημα AI επεξεργάζεται προσωπικά δεδομένα. Τότε, ο AI Act και ο GDPR μπορεί να εφαρμόζονται παράλληλα, με διαφορετικές απαιτήσεις και διαφορετικό αντικείμενο. Η συμμόρφωση με το ένα πλαίσιο δεν συνεπάγεται αυτομάτως συμμόρφωση με το άλλο. Πρέπει να εξετάζονται ο τρόπος λειτουργίας του συστήματος, τα δεδομένα που χρησιμοποιούνται, ο σκοπός της επεξεργασίας και οι κίνδυνοι που δημιουργούνται για τα φυσικά πρόσωπα. Το ίδιο ισχύει για προϊόντα και συστήματα που συνδυάζουν τεχνητή νοημοσύνη με άλλες τεχνολογίες. Ένα αυτόνομο όχημα, ένα ρομποτικό σύστημα ή μια εφαρμογή AI μπορεί να δημιουργεί ταυτόχρονα ζητήματα ευθύνης προϊόντος, ασφάλειας, προστασίας δεδομένων, διανοητικής ιδιοκτησίας και συμβατικής ευθύνης. Η αξιολόγηση αυτών των ζητημάτων πριν από την κυκλοφορία του προϊόντος επιτρέπει στην επιχείρηση να εντοπίσει τους βασικούς κινδύνους και να τους αντιμετωπίσει στον σχεδιασμό της. Για επιχειρήσεις που αναπτύσσουν τεχνολογία σε ένα κανονιστικό περιβάλλον που εξελίσσεται, η νομική συμβουλή πρέπει να συνδέεται με τον τρόπο που λειτουργεί πραγματικά το προϊόν. Εξετάζουμε το σύστημα, τη χρήση του, τα δεδομένα που επεξεργάζεται και τις αγορές στις οποίες πρόκειται να διατεθεί, ώστε να προσδιορίσουμε το εφαρμοστέο νομικό πλαίσιο και τις ενέργειες που χρειάζονται πριν από την κυκλοφορία.
Δεν είναι προαιρετικό
Η ταξινόμηση κινδύνου είναι το πρώτο βήμα
Κάθε σύστημα AI που διατίθεται στην αγορά της ΕΕ εμπίπτει σε ένα από τα τέσσερα επίπεδα κινδύνου του AI Act. Η αξιολόγηση πρέπει να γίνεται πριν από τη διάθεση ή τη χρήση του συστήματος, ώστε οι απαιτήσεις συμμόρφωσης να ενσωματωθούν εγκαίρως στον σχεδιασμό του.
Συνηθισμένο λάθος
Νέα τεχνολογία, υπαρκτοί νομικοί κίνδυνοι
Η νέα τεχνολογία δεν λειτουργεί σε νομικό κενό. Ακόμη και όταν δεν υπάρχει ειδική νομοθεσία για μια συγκεκριμένη εφαρμογή AI ή ρομποτικής, εξακολουθούν να εφαρμόζονται οι γενικοί κανόνες για την ευθύνη, την προστασία των καταναλωτών και τις συμβάσεις.
Διπλό πλαίσιο
Ο AI Act συναντά τον GDPR
Όταν ένα σύστημα AI επεξεργάζεται προσωπικά δεδομένα, μπορεί να εφαρμόζονται παράλληλα τοσο η AI Act και όσο και ο GDPR. Τα δύο πλαίσια έχουν διαφορετικές απαιτήσεις και η συμμόρφωση με το ένα δεν σημαίνει αυτομάτως συμμόρφωση με το άλλο.