Counterfit: εργαλείο ανοιχτού κώδικα για τον έλεγχο της AI

στολή

Υπάρχουν όλο και περισσότερες εξελίξεις του τεχνητή νοημοσύνη, η πολυπλοκότητα αυτού του AI αυξάνεται κάθε φορά, καθώς και το πεδίο εφαρμογής. Χρησιμοποιείται ήδη στον τομέα της υγείας, στις δημόσιες διοικήσεις, στην έρευνα, στις υπηρεσίες κ.λπ. Όμως αυτοί οι αλγόριθμοι δεν είναι αλάνθαστοι όσον αφορά την ασφάλεια, υπάρχουν επίσης πιθανές απειλές για αυτούς. Στην πραγματικότητα, καθώς προχωρά η AI, εντοπίζονται όλο και περισσότερες απειλές. Αυτός είναι ο λόγος για τον οποίο η σημασία των εργαλείων, όπως η αντίστροφη.

Δεδομένου ότι είναι αρκετά κρίσιμα συστήματα, χρειάζονται ασφαλή συστήματα τεχνητής νοημοσύνης. Και για αυτό, μια σειρά προτύπων για ελέγχους και εργαλεία για να μπορείτε να τα ελέγχετε πιο εύκολα. Ένα παράδειγμα είναι αυτό το εργαλείο της Microsoft που ανέφερα στην προηγούμενη παράγραφο.

Η Microsoft έχει αναπτύξει αυτό το εργαλείο που θα διευκολύνει σε μεγάλο βαθμό το έργο και το έχει πράξει με άδεια ανοιχτού κώδικα (άδεια MIT) και μέσω της πλατφόρμας GitHub, έτσι ώστε να είναι προσβάσιμο σε όλους όσους επιθυμούν να το χρησιμοποιήσουν και επίσης να είναι ικανός να συμμετάσχει στην ανάπτυξή του. στολή Θα επιτρέψει στους προγραμματιστές να δοκιμάσουν την ασφάλεια των συστημάτων τεχνητής νοημοσύνης σε πρώιμο στάδιο ανάπτυξης, διασφαλίζοντας έτσι ότι δεν υπάρχουν κρίσιμες τρύπες.

Αν σας ενδιαφέρει ξέρω για αυτήν, μπορείτε να αποκτήσετε πρόσβαση στο αποθετήριο στο GitHub από αυτόν τον σύνδεσμο. Εκεί θα βρείτε τον πηγαίο κώδικα, πληροφορίες ή μπορείτε να το κατεβάσετε και να το δοκιμάσετε σε πολλές πλατφόρμες. Επιπλέον, δεδομένου ότι είναι γραμμένο στο Python, μπορείτε επίσης να το χρησιμοποιήσετε στο Linux χωρίς προβλήματα.

Το εργαλείο γεννήθηκε στη Microsoft, λόγω της δικής τους ανάγκης για αξιολόγηση των συστημάτων τους τεχνητή νοημοσύνη και μηχανική μάθηση ψάχνοντας για ευπάθειες. Αρχικά προοριζόταν για δοκιμές συστημάτων, αλλά τώρα μπορεί επίσης να χρησιμοποιηθεί κατά τη φάση ανάπτυξης του AI.

Όπως μπορείτε να δείτε στον ιστότοπο, θα πρέπει να εγκαταστήσετε Ανακόντα Πύθων στο τοπικό για να μπορείτε να χρησιμοποιήσετε το σενάριο Python. Μια άλλη επιλογή είναι να το χρησιμοποιήσετε μέσω του Azure Shell από ένα πρόγραμμα περιήγησης ιστού.


Αφήστε το σχόλιό σας

Η διεύθυνση email σας δεν θα δημοσιευθεί. Τα υποχρεωτικά πεδία σημειώνονται με *

*

*

  1. Υπεύθυνος για τα δεδομένα: AB Internet Networks 2008 SL
  2. Σκοπός των δεδομένων: Έλεγχος SPAM, διαχείριση σχολίων.
  3. Νομιμοποίηση: Η συγκατάθεσή σας
  4. Κοινοποίηση των δεδομένων: Τα δεδομένα δεν θα κοινοποιούνται σε τρίτους, εκτός από νομική υποχρέωση.
  5. Αποθήκευση δεδομένων: Βάση δεδομένων που φιλοξενείται από τα δίκτυα Occentus (ΕΕ)
  6. Δικαιώματα: Ανά πάσα στιγμή μπορείτε να περιορίσετε, να ανακτήσετε και να διαγράψετε τις πληροφορίες σας.