個人の探究 / AIシステム

人が方向を定め、AIが動く。検証を重ね、進化する。

記憶し、検証し、進化するシステムへ。人の判断を軸に、AIとともにアイデアを形にします。

仕組みを見る
01 — 02 — 03記憶 / 根拠 / 進化
3つの仕組み。ひとつの循環。

順序には意味があります。文書から取り出した要件が、検証の基準になる。実装の無い要件が見つかれば、人と機械の分担を見直すことになる。そして、どこまで移すかという決定が、次に引き継ぐ決定になる。

01 / 知識と記憶

規則はある。理由は別の紙にある。

20年が残すのは仕様書ではなく、文書の束です。役に立つ記憶は、何が書いてあるかと、どの文書に書いてあるかを一緒に残します。

20年動いたシステム。残った文書は5点。

入院給付金を決める規則は2006年から動いています。設計として残っているのは、形式の違う5点の文書だけ。互いを参照してはいません。読み込んで、出典付きで何が言えるようになるかを見ます。

  1. 01読み込み
  2. 02突き合わせ
  3. 03引き渡し

まだ何も読み込んでいません。

残っていた文書
意味のある記憶

0 件の文書 · 0 件の要件

言えるようになったこと

まだ何も読み込んでいません。

動ける決定とは、 出典が付いている決定のこと。

私の設計判断

文書が何を述べているかと、どの文書が述べているかを同じ記録に残す。そして旧システムがそれをどう満たしていたか——コードか、人か——も残す。移行が落とすのは、最後の列です。

架空の規則について、文書5点・要件4件を用意した限定的な例です。実際の棚卸しはもっと大きく、矛盾を含み、終わりません。

02 / 検証と実行制御

AIは「完了」と言う。そのままリリースする?

旧コードとの等価性は確かめられます——そして、この移行はそれに合格します。文書が求めるものを満たしているかは別の問いで、移行が終わったかを決めるのは、そちらです。

AIは「移行完了」と言う。テストも通っている。

20年稼働した基幹システムの入院給付金の計算規則を、AIが新基盤へ移行しました。与えた条件は、同じ入力に対して旧システムと同じ結果を返すこと。

  1. 01等価性
  2. 02被覆
  3. 03要件追加
  4. 04判断

01 / 作品r12

移行後の規則 r12
benefit = 0;
if (days >= 5)
  benefit = daily * days;

AIからの完了報告

「移行が完了しました。挙動は旧システムと同一です。」

02 / 検証組織ポリシー

等価性要件被覆
r12 · 未検証
入院5日以上で給付(以上)
病室区分別の日額
先進医療特約の支払条件
特約あり+ちょうど5日は人的確認

03 / 人の判断

移行済みに見える。まだ何も確かめていない。

「挙動は同一」という主張です。確かめられる主張なので、確かめます。

チェックの根拠を見る

まだチェックしていません。

テストに全部通ることと、 システムを移したことは、違う。

私の設計判断

別々のことを別々に確かめる。旧挙動と一致しているか。文書が求めるものを満たしているか。等価性に合格しても、リリースの許可にはならない。

架空の規則を、入力4件・要件4件で確認する限定的なチェックです。実際の移行では網羅的なケース設計と要件の棚卸しが必要になります。旧規則・移行後規則とも、このページ上で実際に実行して比較しています。

03 / エージェントの協働

どこまでをシステムに引き受けさせるか。

必要なのは、調べた結果を疑える仕組み。そして、疑い方そのものを変えられる仕組み。

チームに任せる調査

人が担っている要件のうち、次にどれをシステムへ移すか。

case 02 で、マニュアルにしか無い要件が1件見つかりました。残りの規則にも同種の要件がどれだけあるかを洗い出し、次に移す一件を提案します。

  1. 01計画
  2. 02調査
  3. 03交差検証
  4. 04統合
  5. 05判断

ひとつの問いを、ふたつの視点から。

調査ノート

調査計画

範囲と判断基準

待機

マニュアルに記載があり、コードに実装のない要件を洗い出す。参照するのは、その時点で有効な改定版とする。

11件はすでに移った。 次の1件を決めるのは、人。

私の設計判断

調査を分け、どの版を読んだかを突き合わせ、有効な仕事は残す。進め方の変更はエージェントが提案し、人が承認する。そしてシステムに何を引き受けさせるかも、人が決める。

根拠と結果は用意された例です。協働の設計を示すもので、実際の調査・モデル学習・製品の推奨ではありません。

ZAIRAN / 考え方

何をもって良しとするか。それを定めるのが、私の役割です。

文書から要件を読み出す。通ったテストを、許可と取り違えない。どこまでを機械に渡すかを決める。——AIは速く作れます。速く作れることと、足りていることは別の話です。