近年、日本は電子マネーやデジタル認証など、IT技術の仕事や日常生活への浸透が遅れ、それが一人当たりの生産性の停滞に繋がっていると言われてきた。コロナ禍にあって、否応なくオンライン授業・会議が学校や職場に導入され、それに伴ってペーパーレス決済など、各種手続きのオンライン化が進んでいることは、遅れを取り戻す好機だと言われている。しかし、人間の介在による"無駄"を省き、"中立かつ効率的なAI"の処理に委ねればいい、という発想をそのまま肯定していいのだろうか。それは、デジタル・ネイティヴにとってのユートピアなのか？ 新年早々少し話題になった、「大学生協アプリ」をめぐる問題に即して、オンライン化に伴う、人間のメンタリティ、特に責任意識の変化について考えてみた。
一般的に言えることとして、人間は他人と直接向かい合って交渉し、合意に至り、物事を決める時、相手から後で責められないよう、ルールを意識するし、自分が大きなミスをすれば責任を取らねばならなくなるので、緊張感を覚える。しかし、組織によって、どういうケースにどう対処するかマニュアルで決められており、自分の判断では何もするな、と命じられていると、話が違ってくる。マニュアルに表面的に従っている限り、（上から）叱責を受けることはない。交渉・取引相手に責められても、責任は全て"上"に行くはずなので、自分は末端だと思っている人ほど、自発的に判断しなくなる。
そうしたマニュアル思考が日本人を会社人間にし、創造性を失わせていると、一九九〇年代にはしきりと言われていた。そうした日本的体質が改善されないまま、オンライン化がどんどん進んでいったらどうなるだろうか。組織の規則や上司からの指示であれば、それに従うべきかどうか判断する余地があるし、マニュアルにない想定外の事態が起こってしまった時は、いやでも自分で何かしないといけない。
しかし、オンライン化を進めていくなかで、初期の入力さえすませれば、後はAIによって自動的に処理される、という発想が浸透すると、たとえ処理の過程で不具合が生じても、システムが問題を処理するアルゴリズムを理解していない自分、プログラムにアクセスできない人、自分は、どうにかしたくても、何もできはしないという気になってくる。無力感あるいは当事者感の欠如だ。
顧客や取引相手から、話が違う、一体どうなっているのか、と問い合わせがあっても、まるで自然現象であるかのように、「もうしわけありません。現在オンラインで処理できない状態になっておりまして、私どもではどうしようもできません」、としか言わない。その人たちに指示を与えているはずの上司も、自分自身がプログラムを操作する技術と権限を持っていない限り、同じ態度を取るしかない。プログラムの設定ミスや不具合で、相手に迷惑をかけた場合、どうするか予め考えるということさえしなくなる。台風に逆らっても仕方ないように、プログラムのやることに逆らっても仕方ないからだ。
オンライン化に伴う、問題処理能力・責任者意識の低下が顕著に表れたのが、「大学生協アプリ(公式)」の導入をめぐる問題だ。これは、大学生協事業連合（会員生協約一九〇）に加盟する各大学生協の電子マネーを、スマートフォンで使用できるようにするためのアプリだ。このアプリをスマホにダウンロードして、レジでバーコード決済できるようにしておくと同時に、組合員であることの証明にもなる。組合員であると証明できないと、割引が適用されないので、料金が高くなる。
従来は、学生証や職員証を、ICカードとしてチャージできるようにしていたが、事業連合は、それをスマホでの決済に切り替えるために、「大学生協アプリ」を開発し、今年の始めからこのアプリによるスマホでの決済をデフォルトにした。各大学の学生や職員は、秋ごろから、このアプリをダウンロードしないと、電子マネーを使えなくなると、秋頃から"警告"を受けていた。学生証や職員証をICカードとして使い続けるという選択肢もあるが、その場合は、各人の電子マネー関連の会員情報が登録されている『大学生協電子マネーマイページ』で、新しい電子マネーと連動する手続きをしておく必要がある。
「Google Play」と「App Store」から「大学生協アプリ」をスマホにダウンロードすること自体は簡単だ。しかし、サーバーの容量が小さいためか、ダウンロードした画面から、電子マネーのページにアクセスして手続きするのに時間がかかる。手続きを終えて"使える"ようにしておいても、レジでバーコードと共にスマホの電子マネー情報が読み取られ、取引が終了するまでかなり時間がかかることがある。そのため待ち時間が長くなり、従来より不便になった。一月十六日前後に、一部のメディアでとりあげられたのは、主としてこの点だ。
しかし私が問題にしたいのは、そこではない。「アプリ」をダウンロードしても、サインインできなくて、そもそも電子マネーが使える状態にできないケースがかなり出ているということだ。単に、サーバーが混んでいて待ち時間が長いというのではなく、システムからアクセスを拒否されてしまうのだ。かく言う、私もそういうトラブルに遭遇した一人だ。何度ダウンロードし直し、会員情報を入力し直しても、「組合員登録情報に不備がある可能性があります。ご所属の大学生協までお問合わせください。」というエラー表示が出てくる。『大学生協電子マネーマイページ』でも、同じようなエラー表示が出る。
そう指示されるので、金沢大学の生協に伝えたところ、「こちらでは直接対処できません。このQRコードのサイトにアクセスして、エラー報告してください」と言われた。表示を素直に読むと、金沢大学生協を経由で登録されている私の会員情報と、私がアプリに登録した情報の間で齟齬があるので、はねられてしまったということであるはずなので、そんなのは、金沢大学の生協の側で登録情報を修正すればすむのではないか、という気がしたが、担当者によると、そういう仕組みにはなっておらず、事業連合の管理部門でないと操作できない、ということだった。仕方ないので、エラー報告して返事を待つことにしたが、ものすごく時間がかかっている。
私の場合、エラーが解消されて、サインインできるようになるまでに二十二日間かかった――その後、金沢大学の生協内でのトラブルもあって、二日間余計にかかった。どうしてそんなに長くかかるのかと聞くと、サインインできない理由にはいろいろあって、どの段階で問題が生じたケースごとに違うので、担当者が一つ一つ対応しているので、時間がかかってしまうということである。これがごく一部の生協利用者にふりかかった災難ではなく、かなり広範に及ぶ問題であることは、「大学生協アプリ」で検索したら、すぐ分かる。かなり多くの大学生協のサイトが、どうしてもサインインできない問題が起こった時、どうすべきか説明するページを設けている。当然、言っていることは、基本的に全て同じで、何度かダウンロードし直してみて、各人の会員情報が掲載されている、「univcoopマイポータル」にアクセスして、サインインできるか確かめる。それでもう一度、「大学生協アプリ」のサイトへのサインインを試みて、ダメだったら、各大学生協経由で、事業本部に連絡して下さい、というものだ。
中には、年を挟んで一か月以上待たされた人もいるらしい。何千件単位、場合によっては、何万件単位で生じているかもしれない苦情を、ごく少数の担当者が一件一件接続状況を確認して、手作業で修正をしている光景を想像すると、バカバカしさで気が遠くなりそうだ。金沢大学生協の窓口の人たちに聞いても、どんな風に、どれくらいの速度で処理が進んでいるのか全然知らない。肝心なところが、ブラックボックスになっているのだ。
電子マネーを使わないで、現金で取引することが全くできないわけではない。その場合、電子マネー取引によるポイント付与はないし、割引も効かない。従来は、現金でもICによる電子マネーの支払いでも、会員であれば割引を受けられた。書籍の場合、一般書籍であれば一割、新書で五％の割引があった。それが、新しい電子マネー・システムを導入した一月以降は、直接の割引ではなく、その分を後で電子マネーのポイントとして付与される仕組みに変わったのである。つまり、「生協アプリ」をダウンロードして、サインできるようになっているスマホを持っているか、『大学生協電子マネーマイページ』で手続きを終えているか、どちらかでない限り、割引＝ポイント還元は受けられない。
私のような状態にあった人は、その間、生協に加入している特典を失うことになる。学生も教員も出資金を払って会員になっており、その見返りに割引などの特典を得ている。あまりお金を持っていない学生だけでなく、私のように毎月数万円単位で本を購入している私のような文系教員にとっても、かなりの痛手だ。
自分に過失があったわけでもないのに、生協に入る時の前提である割引が受けられないのはおかしい、いったん現金で払った後、レシートか領収書の記録に基づいて、後で割引分のポイントを還元してもらうようにできないのか、と聞いても、レジを新しい電子マネーのシステムに対応するものに替えたので、そういう処理はできない、という答えしか返ってこない。まるで台風か地震の影響なので仕方ありません、と言っているような感じだ。
窓口の担当者では埒が明かないと思って、店長に話をした。電子マネーの担当者に任せていたせいか、店長も最初は、生協アプリにサインインできないというのがどういう状態か、各人のICカードに記録されている電子マネーはどうなっているのか把握していないようだったが、私から状況を聞いて、多少なりとこれはまずいことが起こっていると認識したようだ。相談した翌日改めて連絡があった。どういう速度で苦情処理が進んでいるのかは依然として分かっていないようだったが、割引に関しては、登録しておいた銀行口座から引き下ろす方式であれば、直接割引するのは可能だということだった。
多少面倒になりそうだが、割引をする方法が消えたわけではないと分かって、少し安心した。しかし、だったら、どうして最初からそういう説明をしなかったのか。統合的な電子マネーの決済システムを作った以上、システムで生じた問題はシステムの専門家に任せるしかないという思い込みが強かったため、どういう種類の不具合がどれくらいの規模で生じる得るのか、問題が長引いた場合、事業本部及び各大学生協で、会員が被る不利益を補償するために何ができるかしっかり考え、話し合っていなかったのは明らかだ。
私は別に、電子マネーを統合的に管理するシステムの導入自体に異議を唱えているわけではない、システムの起こり得る不具合に対して、生身の人間である各担当者が、取引相手との関係で、何ができるか、何をすべきか考えなくなってしまうこと、ＡＩによる情報処理を自然現象のように捉えてしまうことを問題にしているのだ。
これは、知財をめぐるラディカルな主張でも知られる法学者のローレンス・レッシグが提起した「アーキテクチャ」をめぐる問題である。私たちの行動を規制して、他者に害を加えさせないようにする社会の仕組みは、大きく四つの種類に分けられる。宗教や道徳に基づいてルールを逸脱する者を非難する「規範」、ルールを逸脱する者を自動的に排除する「市場」、違反者を罰する「法」、そして「アーキテクチャ」だ。
「アーキテクチャ」とは、鍵、門、柵のような物理的な装置によって、悪いことをするのを不可能にする仕組みである。近代「法」は、してはいけないことを文章化して、告知し、各人に読ませて理解させることで、指定された違法行為を回避するよう誘導し、分かっていて、違反した場合に罰するという戦略を取る。つまり、言語を理解する主体を前提しているのに対し、アーキテクチャは、言語を介さないで、各人の身体に直接作用する。
レッシグによると、近代社会で「法」が担っていた役割が、科学技術の発展に伴って、各人が何も考えなくても、ルール通りに行動させることが可能な「アーキテクチャ」に移行しつつある。違法ダウンロードやコピーを技術的に不可能にすること、若者がたまり場にするのを抑止するモスキート・サウンド、コンサート・試験会場などで携帯の電波を遮断する妨害電波、呼気のアルコール濃度の自動検知装置付きの自動車などである。人間の心身に働きかける技術が現在の水準よりも更に発展すると、本人が全く気付かない内に、社会にとって望ましくないことはそもそも望むことがないよう、意識自体がコントロールされるようになるかもしれない。
しかし、私たちの日常が「アーキテクチャ」に浸透されていくと、自分が自発的にルールに従うかどうか決めないといけない場面がある、ほとんどはプログラムが処理していることでも、想定外の不具合が起こった場合は、どうすべきか自発的に考えねばならない、それが人間だ、という当たり前の感覚が希薄になる恐れがある。ＡＩが「シンギュラリティ」に向かって更に進化し、洗練されたアーキテクチャが生み出されれば、そうした不具合にも自動的に対処してくれるようになるはずだ、という楽観論もあるだろう。たとえそれが技術的に可能だとしても、その時、私たちの規範・責任意識がどうなるのか、どうあるべきか、ちゃんと考えておくべきだ。
ひょっとすると、人間の意識自体をコントロールするスーパー・アーキテクチャが生まれ、「AIは間違いを犯さない。AI関係のトラブルに見えるのは、自然災害と同じで、不可避のことだ。誰に不平を言うわけにもいかない」、と"デジタル・ネイティヴ"たちに信じさせることができるようになるかもしれない。映画『マトリックス』のように、"トラブルなど生じない世界"にできるかもしれない。そうなったら、たしかに"問題"は解消する。意識を直接機械によってコントロールすることは科学的に不可能だとしても、デジタル・ネイティヴにとっては既に、ネットワーク・トラブルは自然災害と同じレベルになりつつあるかもしれない。
一部の"デジタル・ネイティヴ"にとっては、十分ユートピアなのかもしれない。しかし、私のように、人間関係は面倒くさいけど、やはり人間同士の交渉の余地があった方がいい、という古い感覚の人間には、限りなく気が滅入るディストピアだ。