
با اعطای اختیارات بیشتر به عاملهای هوش مصنوعی (AI Agents) برای برنامهریزی، تصمیمگیری و اقدام در سیستمهای مختلف بدون نیاز به تایید مرحلهبهمرحله انسان، چالش امنیتی جدیدی مطرح میشود: هنگامی که یک عامل هوشمند دست به اقدامی خارج از سطح دسترسی خود میزند، چه ابزاری واقعاً مانع آن میشود؟
مسئولیت عملکرد عاملهایی که روی مدلها و زیرساختهای اختصاصی سازمان اجرا میشوند و به دادههای حیاتی دسترسی دارند، کاملاً بر عهده سازمان است. این مسئولیتپذیری را نمیتوان با دستورالعملهای انتزاعی یا بررسیهای پس از وقوع حادثه محقق کرد. عاملهای هوشمند در لحظه تصمیمگیری به قوانین هوشمند و منطبق بر بافت (Context) نیاز دارند، چرا که خود از درک و قضاوت فراتر از برنامهریزی برخوردار نیستند.
رویکرد سنتی برای کنترل هوش مصنوعی، ایجاد نردههای محافظ (Guardrails) مانند دستورالعملها و ابزارهای نظارتی در لایه بالای مدل است. اگرچه این ابزارها مفید هستند، اما محدودیتی ساختاری دارند؛ کنترل در لایه عامل تنها تا زمانی قابل اعتماد است که خروجی مدل قابل پیشبینی باشد، در حالی که «خودمختاری» دقیقاً همان ویژگی است که خروجی را غیرقابل پیشبینی میکند. حکمرانی متکی بر بررسی پیش از عمل، نمیتواند با سیستمی که در چند میلیثانیه و بهطور همزمان در چندین بستر اقدام میکند، همگام شود.
بنابراین، حکمرانی باید به شیوهای اجرایی تبدیل شود که دقیقاً در محل فعالیت عاملها یعنی لایه دادههای عملیاتی و در همان لحظه درخواست دسترسی، به اجرا درآید. عاملهای هوشمند با استعلام، بازخوانی و تغییر دادهها ارزشآفرینی میکنند. سیاستهای عدم دسترسی تنها زمانی معنا دارند که سیستم بتواند دقیقاً در لحظه فراخوانی، دسترسی غیرمجاز را سلب کند.
سازمانها نباید برای رعایت سیاستهای امنیتی به تصمیم احتمالی مدل هوش مصنوعی متکی باشند؛ بلکه این سیستم پایگاه داده است که باید قوانین را بهصورت قطعی اعمال کند. تفاوت اصلی در این است که به جای امیدواری برای باقی ماندن عامل در چارچوب، مرزهایی غیرقابل عبور در لایه داده ساخته شود.
راهکار تحقق این موضوع، استفاده از ابزارهایی است که بسیاری از سازمانها هماکنون در لایه داده در اختیار دارند: کنترل دسترسی بر اساس نقش و ویژگی (RBAC و ABAC)، امنیت در سطح سطر و ستون، ماسکگذاری پویا و ثبت کامل ردپای حسابرسی. تغییر اصلی در این فرایند، شناسایی هویت عامل هوشمند به عنوان یک «نهاد مستقل» (Principal) با هدف اعلامشده (Declared Purpose) در زمان شروع نشست است.
برای پیادهسازی عملی این چارچوب حکمرانی، نه کنترل کلیدی در قالب سه اصل اساسی تعریف میشود:
هدف از حکمرانی در لایه داده، متوقف کردن عاملهای هوشمند از انجام کارهای مفید نیست؛ بلکه تعیین حیطه اختیارات، دادههای قابل دسترسی، تغییرات مجاز و نحوه بازسازی رویدادها در صورت بروز خطا است. با این روش، عاملها شناسایی، محدود، پایش و حسابرسیپذیر میشوند و تیمهای امنیت و مدیریت ارشد میتوانند با اطمینان بیشتری سرعت توسعه هوش مصنوعی را افزایش دهند.
استفاده از پلتفرمهای مبتنی بر پایگاههای داده متنباز مانند پوسگرس (Postgres)، به سازمانها اجازه میدهد کنترل کامل محل ذخیرهسازی دادهها، سطوح دسترسی و سیاستهای امنیتی را بدون وابستگی به لایههای خارجی حفظ کنند. برای صنایع دارای مقررات سختگیرانه، ترکیب حاکمیت بر داده و اعمال قوانین در مبدا، پیشنیاز اصلی ورود عاملهای هوشمند به محیط عملیاتی است.
این مطلب بر اساس خبر VentureBeat AI بازنویسی و ترجمه شده است.
دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.