ইলিয়াস প্রমুখ।
আমরা দেখাই যে কমপক্ষে 23.5% (88% এর মধ্যে) নির্ভুলতা শক্তিশালী বৈশিষ্ট্য দ্বারা ব্যাখ্যা করা যেতে পারে
. এটি একটি দুর্বল নিম্ন সীমা, একটি রৈখিক মডেল দ্বারা নির্ধারিত, এবং আরও ফুটো হওয়ার সম্ভাবনা উড়িয়ে দেয় না। অন্যদিকে, আমরা অভ্যন্তরীণ ফুটো হওয়ার কোন প্রমাণ পাইনি .
নিম্ন সীমার ফুটো
আমাদের লিক পরিমাপ কৌশল দুটি ধাপ নিয়ে গঠিত:
- প্রথমত, আমরা বৈশিষ্ট্য তৈরি করি যা দৃঢ়ভাবে বৈধ, একটি অর্থে যা শীঘ্রই বিস্তারিত হবে।
- পরবর্তী, আমরা একটি লিনিয়ার ক্লাসিফায়ারকে প্রশিক্ষণ দিই
অনুযায়ী ডেটাসেটের উপর এবংসমীকরণ 3
(সংজ্ঞায়িতসারণী 1) এই শক্তিশালী বৈশিষ্ট্যগুলির উপর শুধুমাত্র.
যেহেতু ইলিয়াস এট আল.
অন্তত একটি শ্রেণীর জন্য, বৈশিষ্ট্য হল শক্তিশালীভাবে দরকারী
এবং একটি সমান বৈধ perturbations সেট ব্যাসার্ধ 0.25 সহ সাধারণ গোলক।
বৈশিষ্ট্যটি একটি শক্তিশালী মডেল থেকে এসেছে যার জন্য পরীক্ষার সেটের কমপক্ষে 80% পয়েন্টের পূর্বাভাস রয়েছে যা 0.25 এর ব্যাসার্ধের সাথে একটি আশেপাশে স্থির থাকে আদর্শ বল।
আমরা সন্তুষ্ট যে বৈশিষ্ট্য খুঁজে উভয় CIFAR-10-এ প্রশিক্ষিত একটি শক্তিশালী রৈখিক মডেলের 10টি রৈখিক বৈশিষ্ট্য ব্যবহার করে স্পেসিফিকেশন। যেহেতু বৈশিষ্ট্যগুলি রৈখিক, তাই উপরের দুটি শর্ত বিশ্লেষণাত্মকভাবে নিশ্চিত করা যেতে পারে। ম্যানুয়ালি বৈশিষ্ট্যগুলির সাথে সম্পর্কিত ওজনগুলি পরীক্ষা করার জন্য আমরা এটি পাঠকের কাছে ছেড়ে দিই:
10টি বৈশিষ্ট্য, একটি শক্তিশালী রৈখিক শ্রেণীবিভাগের . প্রতিটি বৈশিষ্ট্য হল লেবেল আপেক্ষিক শক্তিশালী-উপযোগী . চাক্ষুষ ওজন হয় বৈশিষ্ট্যের .
উপরের শক্তিশালী বৈশিষ্ট্যগুলিতে একটি রৈখিক মডেলকে প্রশিক্ষণ দিন এবং সিআইএফএআর পরীক্ষার কিট পরীক্ষা করলে এর নির্ভুলতা পাওয়া যায় 23.5% (88% এর মধ্যে)। একই করা খ
এর উচ্চতা নির্ভুলতা 6.81% (44% এর মধ্যে)।
বিপরীত ফলাফলগুলি পরামর্শ দেয় যে দুটি পরীক্ষা ভিন্নভাবে ব্যাখ্যা করা উচিত। স্থানান্তর ফলাফল টেবিল 1 এর মধ্যে
এর ফলাফল টেবিল 1 এর মধ্যে
যাইহোক, একটি শক্তিশালী ভিত্তির উপর দাঁড়িয়ে। আমরা বৈশিষ্ট্য ফুটো করার কোন প্রমাণ পাই না (আসলে, আমরা নেতিবাচক ফুটো খুঁজে পাই – একটি প্রবাহ!) এইভাবে আমরা উপসংহারে পৌঁছেছি যে সম্ভবত বেশিরভাগ নির্ভুলতা অ-শক্তিশালী বৈশিষ্ট্য দ্বারা চালিত হয়, অবিকল থিসিস
ডেটাসেট (যা, আপনি মন্তব্যে উল্লেখ করেছেন, আসলে আছে বিভ্রান্তিকর শক্তিশালী বৈশিষ্ট্য)। প্রদত্ত পরীক্ষাটি অন্তর্নিহিত ঘটনা সম্পর্কে আমাদের বোঝার আরও উন্নতি করে।
প্রতিক্রিয়া: এই মন্তব্যটি একটি বৈধ উদ্বেগ উত্থাপন করে যা আসলে ডিজাইনের প্রধান কারণগুলির মধ্যে একটি ছিল৷ ডেটা সেট। বিশেষ করে, নির্মাণ মনে রাখবেন
ডেটাসেট: প্রতিটি ইনপুটকে একটি এলোমেলো লক্ষ্য লেবেল বরাদ্দ করুন এবং সেই লেবেলের জন্য একটি PGD করুন৷ উল্লেখ্য যে অসদৃশ ডেটাসেট (যার মধ্যে লক্ষ্য শ্রেণী নির্ধারকভাবে নির্বাচিত হয়),
ডেটাসেট শক্তিশালী বৈশিষ্ট্যগুলিকে প্রকৃতপক্ষে লেবেলের সাথে একটি (ছোট) ইতিবাচক সম্পর্ক থাকতে দেয়।
এটি কীভাবে ঘটতে পারে তা দেখতে, নিম্নলিখিত সাধারণ সেটআপটি বিবেচনা করুন: আমাদের একটি সম্পত্তি রয়েছে অর্থাৎ বিড়াল জন্য এবং কুকুর জন্য যদি
তারপর এটি অবশ্যই একটি শক্তিশালী বৈশিষ্ট্য। যাইহোক, লেবেলের র্যান্ডম অ্যাসাইনমেন্ট (ডেটাসেটের মতো ) এই বৈশিষ্ট্যটিকে অ্যাসাইন করা লেবেলের সাথে সম্পর্কহীন করে তুলবে, অর্থাৎ, আমাদের কাছে এটি থাকবে . একটি লক্ষ্যবস্তু আক্রমণ চালানোর ফলে এই ক্ষেত্রে নির্ধারিত লেবেলের সাথে কিছু যোগসূত্র হতে পারে, যেমনটি আমাদের হতে পারে যা মডেলটিকে সঠিকভাবে নতুন ইনপুট শ্রেণীবদ্ধ করতে শিখতে দেয়।
অন্য কথায়, একটি বৈশিষ্ট্যহীন ডেটা সেট থেকে শুরু করে, কেউ ছোটখাটো ঝামেলার মধ্যে শক্তিশালী বৈশিষ্ট্যগুলিকে এনকোড করতে পারে। অন্যদিকে, ইন
এতে ডেটা সেট, শক্তিশালী বৈশিষ্ট্য রয়েছে মূল লেবেলের সাথে সম্পর্কযুক্ত (কারণ লেবেলগুলি পুনরুদ্ধার করা হয়েছে) এবং যেহেতু তারা শক্তিশালী, সেগুলিকে নতুন বরাদ্দ করা (ভুল) লেবেলের সাথে মেলে উল্টানো যাবে না৷ এবং এখনও, ডেটাসেট আমাদের দেখাতে দেয় যে (ক) পিজিডি-ভিত্তিক প্রতিকূল উদাহরণগুলি আসলে ডেটার বৈশিষ্ট্যগুলিকে পরিবর্তন করে এবং (খ) মডেলগুলি প্রশিক্ষণ ডেটা থেকে শিখতে পারে যার মানবিক অর্থ/ত্রুটি নেই৷ দ
ডেটা সেট, যাইহোক, ব্যাখ্যা করে যে দুর্বল বৈশিষ্ট্যগুলি আসলে সাধারণীকরণের জন্য যথেষ্ট এবং প্রাকৃতিক সেটিংসে শক্তিশালী বৈশিষ্ট্যগুলির চেয়ে পছন্দ করা যেতে পারে।
মন্তব্যে দেওয়া পরীক্ষাটি দেখানোর একটি চতুর উপায় যে এই ধরনের একটি ফাঁস সত্যিই সম্ভব। যাইহোক, আমরা জোর দিতে চাই (যেমন মন্তব্য নিজেই করে) যে একটি শক্তিশালী বৈশিষ্ট্য ফাঁস এটি করে না আমাদের প্রধান থিসিসের উপর একটি প্রভাব আছে – ডেটাসেট স্পষ্টভাবে শক্তিশালী বৈশিষ্ট্য স্পিলওভারের জন্য নিয়ন্ত্রণ করে (এবং, কার্যত, শক্তিশালী বৈশিষ্ট্য বনাম অ-শক্তিশালী বৈশিষ্ট্যগুলির জন্য মডেলের পছন্দের পরিমাণ নির্ধারণ করতে দেয় – কাগজে পরিশিষ্ট D.6 দেখুন)।
ধন্যবাদ
শান কার্টার (প্রকল্প শুরু করেছেন), প্রীতম (প্রযুক্তিগত আলোচনা), ক্রিস ওলা (প্রযুক্তিগত আলোচনা), রিয়া (প্রযুক্তিগত আলোচনা), আদিত্য (প্রতিক্রিয়া)
তথ্যসূত্র
- প্রতিদ্বন্দ্বী উদাহরণ বাগ নয়, তারা বৈশিষ্ট্য
ইলিয়াস, এ., সান্টুরকার, এস., সিপ্রাস, ডি., ইংস্ট্রম, এল., ট্রান, বি. এবং মাদ্রি, এ., 2019. arXiv প্রিপ্রিন্ট arXiv:1905.02175.
আপডেট এবং সংশোধন
আপনি যদি ভুল দেখতে পান বা পরিবর্তনের পরামর্শ দিতে চান তবে অনুগ্রহ করে GitHub-এ একটি সমস্যা তৈরি করুন।
পুনরায় ব্যবহার
ডায়াগ্রাম এবং টেক্সট ক্রিয়েটিভ কমন্স অ্যাট্রিবিউশন CC-BY 4.0-এর অধীনে লাইসেন্সপ্রাপ্ত, GitHub-এ উপলব্ধ উৎস সহ, যদি না অন্যথায় উল্লেখ করা হয়। অন্যান্য উত্স থেকে পুনঃব্যবহৃত ডেটা এই লাইসেন্সের আওতায় পড়ে না এবং তাদের ক্যাপশনে একটি নোট দ্বারা চিহ্নিত করা যেতে পারে: “এর থেকে ছবি…”।
উদ্ধৃতি
একাডেমিক প্রেক্ষাপটে অ্যাট্রিবিউশনের জন্য, অনুগ্রহ করে এই কাজটি উল্লেখ করুন
Goh, "A Discussion of 'Adversarial Examples Are Not Bugs, They Are Features': Robust Feature Leakage", Distill, 2019.
BibTeX উদ্ধৃতি
@article{goh2019a,
author = {Goh, Gabriel},
title = {A Discussion of 'Adversarial Examples Are Not Bugs, They Are Features': Robust Feature Leakage},
journal = {Distill},
year = {2019},
note = {https://distill.pub/2019/advex-bugs-discussion/response-2},
doi = {10.23915/distill.00019.2}
}