ブログ

Jun 22, 2023

都市調達における AI: 避けるべき 5 つの落とし穴

市行政が人工知能 (AI) などの新興技術をシステムに組み込むことを検討している場合、調達手続きでのその使用を慎重に検討する必要があります。 AI

市行政が人工知能 (AI) などの新興技術をシステムに組み込むことを検討している場合、調達手続きでのその使用を慎重に検討する必要があります。 AI は強力な新しいツールであり、有益である可能性がありますが、公的機関が直面する必要がある倫理上およびセキュリティ上の問題も伴います。 調達に AI を使用することを検討する際に避けるべき 5 つの潜在的な落とし穴を次に示します。

1.テクノロジーへの依存:調達における AI の使用により、効率が大幅に向上し、プロセスが合理化されます。 たとえば、単純な勧誘の仕様の作成や入札の評価に使用でき、必要な時間とリソースを削減できます。 ただし、AI が生成する情報は必ずしも正確であるとは限らないため、市当局がこのテクノロジーに過度に依存すると、調達プロセスで潜在的なエラーが発生する可能性があります。 AI によって作成された仕様がどれほど正確であっても、公開前に知識のある調達スタッフが都市固有の要件を評価する必要があります。

2. セキュリティ上の懸念: AI は、機械学習アルゴリズムとリアルタイム データ分析を活用して情報技術 (IT) 購入における潜在的な脆弱性を特定することで、調達におけるセキュリティの向上に役立ちます。 IT 購入における潜在的な問題を検出することで、都市は、これまで認識されなかったサイバーセキュリティ上の懸念に積極的に対処できるようになります。 ただし、AI を利用したツールにはそれ自体の脆弱性がないわけではなく、経験豊富なサイバー犯罪者が脆弱性を悪用し、セキュリティ上の脅威につながる可能性があります。 市の IT 部門は調達担当者と協力して、機密情報を保護し、市システムの整合性を確保するための強力なセキュリティ対策を実装する必要があります。

3.偏見と差別:残念ながら、AI を活用したツールは、意識的および無意識の偏見を持つ不完全な人間によってプログラムされているため、調達における非倫理的な差別を永続させる可能性があります。 特定のアルゴリズムには、社会的、地理的、または経済的な偏見を反映したバイアスがプログラムされており、特定のサプライヤーや製品が不公平に扱われる可能性があります。 たとえば、AI によって生成された入札が地理的にどの地域のサプライヤーにも公開されているにもかかわらず、調達担当者がその情報を含めるために仕様をレビューしなかった場合、市域外の潜在的なサプライヤーは、自分たちの入札は考慮されないと誤って信じてしまう可能性があります。 市の調達担当者は、AI によって生成されたものを慎重に検査して、すべての調達が市の倫理基準を遵守していることを確認する必要があります。

4. コスト超過: AI を使用すると、調達スタッフが市場調査プロセス中によりコスト効率の高いソリューションを特定できるようになり、大幅なコスト削減につながる可能性があります。 ただし、適切に管理しないとコスト超過が発生する可能性もあります。 AI を利用したツールは、最初は安価に見えても、長期的には実際には費用対効果が低いソリューションを推奨する場合があります。 AI を活用したツールでは、特定のソリューションにテクノロジーの進歩に伴って必要となるメンテナンスやアップグレードの費用がかかることは考慮されていません。 iPhoneを例に考えてみましょう。 iPhone の最初のバージョンでは最新の iOS を実行できないため、これらの製品を継続して使用するにはハードウェアのアップグレードが必要になります。 市の調達担当者は、AI の推奨事項を慎重に評価して、予算と調達の目標と一致していることを確認する必要があります。

5. 理解の欠如:日常的なツールとしての AI はまだ比較的新しく、常に進化しています。 アーリーアダプターでも理解できないことはたくさんあります。 公共調達の分野では新しいテクノロジーの導入が少し遅れる傾向があることを考えると、都市の調達担当者は AI を効果的に使用するための理解が不足している可能性があります。 AI アルゴリズムは、テクノロジーに精通したユーザーであっても解釈するのが難しい場合があり、調達スタッフは日々の業務の中で、その仕組みを深く理解する時間がまったくない可能性があります。 市行政は、AI を活用したツールや AI で生成されたドキュメントを政策、手順、出版物に導入する前に、徹底的なトレーニング プログラムを考案し、実施する必要があります。