Last Updated on 2023-12-27 14:01 by admin
from On Specifying for Trustworthiness.
自律システム（AS）は、人間の監視なしに動作するため、その信頼性が重要です。この信頼性は、システムの設計、エンジニアリング、運用を通じて、望ましい結果を生み出し、有害な結果を最小限に抑えることで確保されます。信頼性は、説明可能性や責任追及の可能性、異なるユーザーに対する理解のしやすさなど、多くの要素に依存します。ASの信頼性を保証するためには、仕様化が必要であり、これには合成、形式的検証、ランタイム検証、テストベースの方法など様々な技術が関わります。仕様化は、機能や安全性だけでなく、信頼性を保証する要素も含む必要があります。
ASの仕様化には、人間の行動や意図、データ駆動型の適応プロセス、人間要因、進化する機能の仕様化など、多くの研究課題が存在します。セキュリティや社会的視点からの仕様化、説明可能性の設計への貢献も重要です。技術的な側面だけでなく、社会的な信頼性や規制の側面、説明可能性や倫理的な側面も仕様化には必要であり、規制や公衆の意見を考慮することが求められます。
将来的には、ASの仕様化には技術的な進歩だけでなく、社会科学や人文科学の研究の洞察が必要です。信頼性のあるASを実現するためには、エンジニアや科学者が心理学、社会学、法学、政治学、経済学、倫理学、哲学の専門家と協力し、規制当局や一般の人々との継続的な関与が重要です。
