c > q r n í + J Ã ² º ) ? 4 = É 1 ÄO q r _ k n M q r n _ e É â Æ P c q r n _ É r Q c q...

Extending STPAをベースとしたプロセスモデル抽出の実践

2018年 12月

日本ユニシス株式会社

総合技術研究所

福島祐子

第3回 STAMPワークショップ

STAMP/STPA適用上の課題1

Extending STPAの概要2

Extending STPAの改良案3

実システムに対する改良案の適用4

まとめ5

アジェンダ

STAMP/STPA

Extending STPA

改良案

昨年お話した内容

まとめ5

多くの構成要素がつながるシステムにも対応

STAMP/STPAの特徴

不具合

事故

従来の考え方（FTA、FMEA等）

STAMP/STPAによる考え方

事故

安全ではないコントロールアクション（UCA）

(Leveson, 2012)

安全ではないコントロールアクション（UCA）を

実行してはならない！

安全ではないコントロールアクション（UCA）

STAMP/STPAの特徴

システムの状態とプロセスモデルとの不一致が原因。原因の特定には、プロセスモデルを捉えることが重要！

＜電車の例＞

運転士

電車

ドアを開ける

原因：運転士が「電車が停車中」と認識

停車中

UCA：運転士が電車が走行中にドアを開ける

事故

走行中

ハザード：電車がドアを開けたまま走行する

プロセスモデル

STAMP/STPAの課題

STAMP/STPAの分析ステップ

(Leveson, 2012)

Step0 準備 1：事故、ハザード、安全制約の識別

Step0 準備 2：コントロールストラクチャーの構築

Step1：安全ではないコントロールアクション（UCA）の識別

Step2：UCAの原因の特定

原因を特定する前にプロセスモデルが必要

STAMP/STPA適用上の課題：

プロセスモデル抽出の考え方が具体的に示されていない

まとめ5

UCAの構造を定義

Extending STPAの概要

運転士が、電車が走行中に、「ドアを開ける」を指示する

コンテキスト：コントローラタイプコントロールアクション

(Thomas, 2013)

＜電車のUCA例＞

運転士が、「ドアを開ける」を指示する

ハザードにつながるかは不明

ハザードになるか決まる条件

最初のコンテキストを分解して、追加のガイダンスを得る

コンテキスト「電車の走行中」の分解例：

コンテキスト変数コンテキスト値

電車の動作停車中

走行中

電車の位置プラットフォーム

プラットフォーム以外

プロセスモデルとして捉える

電車の動作電車の位置ハザード？

停車中プラットフォーム

停車中プラットフォーム以外

(Thomas, 2013)

運転士が「ドアを開ける」

コンテキスト

の組み合わせ

最初のUCAのコンテキストをどのように特定するか

ハザードからプロセスモデルを得る

プロセスモデルを階層化する

Step0：ハザード

電車がドアを開けたまま走行する

電車の状態

ドアの状態

プロセスモデルの階層

電車の方向電車の速度

・・・

電車の動作

コントロールアクション：

「ドアを開ける」

Step１：最初のUCA

運転士が、

電車が走行中に

ドアを開ける

課題１：コンテキストをもっと幅広く捉えられないか課題２：プロセスモデルを具体化できないか

Extending STPAの概要と試行2

まとめ5

UCAの構造を6W3Hで捉える

改良案１：6W3Hの視点によるコンテキストの導出

＜電車のUCA例＞

運転士が、電車が走行中に、電車に「ドアを開ける」を指示する

誰が（Who）

コンテキスト

何を（What）

誰に（Whom）

いつ（When）

6W3Hの視点ヒントワードコンテキスト

誰が（Who）間違った人ー

誰に（Whom）間違った相手ー

何を（What）間違ったもの・こと間違ったドア

いつ（When）間違ったとき走行中

どこで（Where）間違った場所プラットフォーム以外

どのくらい（How many）

間違った量・程度全開

いくら（How much）間違った金額ー

どのように（How）間違った方法間違った操作で

※「なぜ（Why）」はStep2で考えるため除く。

コントロールアクション：「ドアを開ける」

コンテキスト変数コンテキスト値

開けるドアの位置プラットフォームに面しているプラットフォームに面していない

運転士が、電車に「プラットフォームに面していないドアを開ける」を指示する

「間違ったドア」

新たなUCA：

コンテキスト分解（Extending STPA）

改良案２：Step2におけるコンテキストの詳細化

UCA：運転士が、電車に「プラットフォームに面していないドアを開ける」を指示する

開けるドアの位置

プラットフォームに対するドアの方向（プラットフォーム側、プラットフォームと反対側）

電車に対するプラットフォームの方向（右、左）

運転士は、プラットフォームの方向を誤って認識する（実際には左側なのに、右側と認識する）

UCAの原因：

コンテキストの詳細化

プロセスモデル抽出方法

Step0 準備 1：事故、ハザード、安全制約の識別

Step0 準備 2：コントロールストラクチャーの構築

Step1：UCAの識別

Step2：UCAの原因の特定

ExSTPAプロセスモデルの階層化

改良案２：Step2におけるコンテキストの詳細化

UCAの原因

UCAに繋がる最初のコンテキスト

コンテキスト

プロセスモデル

システムレベルのプロセスモデル

ExSTPAコンテキスト分解

まとめ5

STPA分析ワークショップ（A、B）を開催

ワークショップ時間：約10時間（２，３回に分けて実施）

実システムに対して改良案を適用

ワークショップ進め方

①STPA （Extending STPAを含む）の概要説明

②STPA （Extending STPAを含む）による分析

③改良案の説明

④改良案による分析

改良案の効果の測定

②STPAによる分析結果と④改良案による分析結果の比較

追加されたUCAの数、具体化されたHCFの数

改良案適用の概要

ワークショップAの概要

概要

企業：検査用機器の部品メーカー

対象システム：検査用機器の部品

参加者：２名（部品の開発担当者、STPA未経験）

検査提供（機器＋オペレータ）

検査対象

ラベルを貼る検査する

分析概要

事故：

検査対象がダメージを受ける

ハザード：

間違った検査を行う

ワークショップAにおける比較結果

＜STPA＞

識別できたUCA：１個

例）UCA：誤った検査対象にラベルを貼る

＜改良案１：6W3Hの視点の適用＞

追加されたUCAの数：１０個

UCA識別結果

6W3Hの視点ヒントワードコンテキスト

何を（What）間違ったもの誤った内容のラベル判別できないラベル

どこで（Where）間違った場所間違った場所

追加UCA ：判別できないラベルを貼る

対象CA：ラベルを貼る

例）

ワークショップAにおける比較結果

＜STPA＞

識別できたHCF ：３個

（例）HCF：ラベルが判別できないことに気が付かない

＜改良案２：コンテキストの詳細化＞

具体的なHCF ：１５個

HCF識別結果

判別できない印字が薄い汚れている

対象UCA：判別できないラベルを貼る

具体化HCF１：印字が薄いことに気が付かない具体化HCF２：汚れていることに気が付かない

３個のHCFに対して新たなコンテキストを反映

（例）など５個のコンテキスト

ワークショップBの概要

概要

企業：業務用機器の部品メーカー

対象システム：業務用機器の部品

参加者：２名（部品の開発担当者、STPA未経験）

比較結果

UCA識別（１CAを対象）

STPAによるUCA数：１０

改良案１により追加できたUCA数：９

HCF識別（１UCAを対象）

STPAによるHCF数：９

改良案２により具体化できたHCF数：１４

分析結果詳細（ご参考）

6W3Hの視点ヒントワードワークショップA ワークショップB

誰が（Who）間違った人

誰に（Whom）間違った相手

何を（What）間違ったもの・こと４

いつ（When）間違ったとき２５

どこで（Where）間違った場所２３

どのくらい（Howmany）

間違った量・程度１

いくら（How much）間違った金額

どのように（How）間違った方法１１

改良案１：6W3Hの視点により見つけたコンテキスト数

改良案２：コンテキスト詳細化と具体的なHCFの特定

＜ワークショップA＞

３個のHCF“判別できない”のコンテキストを含む

判別できない

印字が薄い汚れている・・・

１５個のHCF“印字が薄い”、“汚れている”などのコンテキストを含む

１個のあいまいなコンテキスト

５個の詳細なコンテキスト

３個のHCF×

５個のコンテキスト

STPA適用時のHCF内訳コンテキスト詳細化

具体的なHCF

改良案２：コンテキスト詳細化と具体的なHCFの特定

＜ワークショップB＞

２個のHCF抽象的なコンテキストを含まない

７個のHCF

１４個の具体的なHCF

１個のあいまいなコンテキスト

２個の詳細なコンテキスト

７個のHCF×

２個のコンテキスト

STPA適用時のHCF内訳コンテキスト詳細化

具体的なHCF

１個の抽象的なコンテキストを含む

比較結果による考察

改良案１（6W3Hの視点によるUCA識別）

具体的な利用シーンを考えるきっかけとなり、特にSTPAビギナーの

発想を促すのに有効。視点の見落としの再考にも適用できる。

対象システム、対象UCAの種類によって、有効となる視点が異なる。

改良案２（コンテキスト詳細化によるHCF特定）

意識的にコンテキストの詳細化を行うことが可能となり、特にSTPAビ

ギナーには有効。

コンテキストを詳細化することにより、同じコンテキストを含むすべて

のHCFを具体化できる。

HCFを具体化することにより、原因の深堀りが可能になり、具体的な

対策に結びつく可能性がある。

ワークショップA参加者の感想

STPAについて

STPAのコントロールアクションに注目して分析するやり方はよいと思

うが、全てを網羅しないと思う。他の手法と連携しながら適用するの

がよいかもしれない。

ワークショップでは、部分的に分析したが、実際にSTAMPで分析しよ

うとすると時間がかかりそうである。

用語について、日本語と英語が混在して混乱した。

改良案について

6W3Hの視点の適用は、悪くはなさそうである。

6W3Hの視点については、コントローラ、コントロール対象プロセスな

ど、どの部分に関係するのか対応付けた方が、適用する際に分かり

やすそうである。

ワークショップB参加者の感想

STPAについて

UCAを識別することにより、総合テスト用の具体的なシナリオを書け

そうである。

損失、ハザードの定義は、部品を対象とすると難しい。どのように分析

するのか工夫が必要。

用語が難しい。

改良案について

6W3Hの視点は、日本人に合っていて、非常によい。いろいろなメンバ

ーで考えると、コンテキストを多く抽出できそうである。

“環境”、“背景”といったヒントワードがあると、コンテキストはもっと広

がりそうである。

まとめ5

改良案に対する改善検討

システム、UCAの種類別に、有効となる6W3Hの視点に違いは

あるか？

ドメイン、システムの種類によって、6W3Hのヒントワードを変え

た方がよいか？

対象システムが部品の場合の分析の進め方

今後の課題

お話した内容

STAMP/STPA適用上の課題

Extending STPAの改良案

実システムに対する改良案の適用

ご清聴ありがとうございました

参考文献

はじめてのSTAMP/STPA ～システム思考に基づく新しい安全性解析

手法～, IPA/SEC, 2016, http://www.ipa.go.jp/files/000051829.pdf

Nancy Leveson, An STPA Primer,

http://psas.scripts.mit.edu/home/wp-

content/uploads/2015/06/STPA-Primer-v1.pdf

Nancy Leveson, Engineering a Safer World, The MIT Press, 2012

John Thomas, Extending and Automating a Systems-Theoretic

Hazard Analysis for Requirements Generation and Analysis,

http://sunnyday.mit.edu/JThomas-Thesis.pdf

福島祐子,安全性解析手法STAMP/STPAにおけるプロセスモデル抽出

方法の提案,ソフトウェア品質シンポジウム, 2017,

http://www.juse.jp/sqip/library/shousai/download/index.cgi/B1-

1.pdf?id=361

c > q r n í + J Ã ² º ) ? 4 = É 1 ÄO q r _ k n M q r n _ e É â Æ P c q r n _ É r Q c q...

Documents

ÿ ± ë È ¤ ¢ é · ô ¨ I v R Q 2 v o O q · ¨ I v R Q 2 " v o O q ÿ ± ë È ¤ ¢ é · ô ¨ I v R Q Õ z Æ 8 v E « # \ | Í u ô ¨ I y ¯ y | y µ å é Þ v ~ ³ Ñ

u $ £ - w ¤ ¢ £ G > © > · 2018. 12. 26. · _ u $ £ - w s q h r _ x É ¸ É r í ª ² º Ý É Â æ > ¾ è kwwsv xvwu jry vlwhv ghidxow ilohv b6xppdu\brib8 6 -dsdqb1hjrwldwlqjb2emhfwlyhv

R É P U B L I Q U E F 02 GROUPES INTERPARLEMENTAIRES D … · 2017-01-13 · r É p u b l i q u e f r a n Ç a i s e groupes interparlementaires d’amitiÉ et groupes d ’information

¾ - it-marketing.jp · Î¼ q É V ¥ z N 9 q É O Q

Perigos do MSN. Índice: OOOO q q q q uuuu eeee é é é é o o o o M M M M SSSS NNNN SSSS eeee gggg uuuu rrrr aaaa nnnn çççç aaaa CCCC oooo mmmm oooo u u

É c o Q u a r t i e r e n m i l i e u r u r a l ?

k b o ` q s r( s q c) l r R P R | P P O O P ^ Q ^ R f B t [ U …± Ì x Í k b o ` q s r i s q c j f B t [ U [ ð ¨ ¢ ã ¸ « è ª Æ ¤ ² ´ ¢ Ü · B { É Í A ã L ¤ i Ì

Ê Õ ø « H È È a m m e q ® ® ¹ ¹...• Q O T ã å q l q í Ð Ï ² # J É 4 % í Ð . • ¼ C É ô ö ô í Ç ² Æ ² î Â º » ª É 1 ß H ß• Ò $ É q v É »

ZLWK ± ë È Î G z ° é Þ ¤ ¥ ) C ± W E ´ v Q R Ê Á ¦ | è 2 …...S y ò y ² o s b q ] o y ½ & ¾ Q R Ê Á Î y Q ¾ é o Q ¾ é ` ± z | Q R Ê Á Î v ^ r s 9 v ô

x y p É P ! x ê ^ r > r + s w b Q > c · 8Ì a Ð OG p - $ V ... 4r ü T Q² ! + /¹ 8È

² Q c £ Ý é Ä ¡ ³ | ² r £ Ý é Ä ¡ ³...£ A = b j @ y : x ß É ã W 8 ~ L Ö ² Q c £ Ý é Ä ¡ ³ | ² r £ Ý é Ä ¡ ³ ç F Ö - ¸ 5 r d 3UHVV 5HOHDVH ç F Ö

ºn ç ¯ © ® bU V Ë É ^ m [ è É b Æ O Q U V K - É A s É b Æ O R P } É å ¯ Ã Â v ª C ä ç æ b O S µ â Â $ Î ² Á Ö ® Â ¨ æ + y å Ù î O S r É r Æ Ù

+51 0 é :q ] ¥ %¤! æ ß ¿ á · 2020. 11. 6. · +51 0 é : q ] ¥ %¤! æ ß ¿ á :* : q ] â ö á ¿ ¥ é ! :* !° )Ð ÿ o b o

¸^ = ß é ³ Ñ · y d = O Q ¸^ = ß é ³ Ñ · r z^ = ß é ³ Ñ · y d = O Q ¸ ^ = ß é s z ¸ ^ = ß é .802, s z | ¸ y ¸ ^ v É + b q O ß é ³ Ñ · r d }0LFURVRIW W

1989 T SLC - - g: T SLC - R 3TATTr-- é-fr:q-ffi-u-fž-ž q

%YBñB÷%(:w Ö% G :q { ßB1q / %¤! :wU# $å ¬B1 Ô ÙB1 É IAî P K(o ¬B1 ¼ (o ¬B1 !ªAï ] #Õ.z Ò á ú ã y ¼. !¹ ¼4F é 2 ¸ { % é Ç5À%l û Ò Ú q / * R X _ o * Z

± &29,' ô É ó v 2 b q f + W á ` q O P ² c ] { `T Ö ç F Ö...± &29,' ô É ó v 2 b q f + W á ` q O P ² c ] { ` T Ö ç F Ö ¤ s Î < r É v 2 d &29,' Ñ ® T y s u Q u

R q 0 é Í » ï w ì É ¿ Ä ë « Í w å Õ ç ; V t 0 é \ R DialogueGenerationUsingtheLabelPropagation overaCorrelationNetworkofWordsandUtterancePatterns é j 1 HiroshiTsukahara

à Å é 4 r | È = µ ñ ` v ¨ I Q Ó s Ö r È y ° Ü Á · é · Â ± µ è ......E ± s v o O q ´ Ö Î µ ç F Ö ¤ F ¥ ¤ # É ¥ ´ Ö v µ h i L I ¸ º V « á ñ Ï

Q Q : ¯ : * M ¯ * M 8nn && r r L L E . E G . G · 8/23/2018 · ½ d: _ Å = ( : ^ L n É 2 ^ v £ dV° = ` ( m E p _ L ] D G ' ¹ä n É L 3 K q ¦ ~ ¦ d ` ( v £ £ 9 9ô ô