2024-12-26 に確認した最新投稿の一部です。
Article: 1
Title:
Efficient Contrastive Explanations on Demand
Published:
2024-12-24
Authors:
Yacine Izza, Joao Marques-Silva
Abstract:
最近の研究は、敵対的な頑健性と、制限された形式の象徴的な説明、すなわち距離に基づく(形式的な)説明との間に密接な関係があることを明らかにしました。この関連性は、特に非常に複雑な機械学習(ML)モデルの場合、敵対的な例の存在を判断するのと同じくらい効率的に記号説明の計算を行うための最初のステップを表すため、重要です。ただし、ML モデルが持つ可能性のある機能の数が非常に多いため、特にディープ ニューラル ネットワークでは、パフォーマンスの大きなボトルネックが残っています。この論文では、敵対的ロバスト性を活用して、多数の特徴を持つMLモデルのいわゆるコントラスティブ説明を計算する新しいアルゴリズムを提案します。さらに、この論文では、説明をリストアップし、最小の対照的な説明を見つけるための新しいアルゴリズムも提案しています。実験結果は、この論文で提案されている新しいアルゴリズムによって達成されたパフォーマンスの向上を示しています。
Article: 2
Title:
Towards Macro-AUC oriented Imbalanced Multi-Label Continual Learning
Published:
2024-12-24
Authors:
Yan Zhang, Guoqiang Wu, Bingzheng Wang, Teng Pang, Haoliang Sun, Yilong Yin
Abstract:
継続的学習(CL)では、既存の研究は主にマルチクラス分類タスクに焦点を当てていますが、マルチラベル学習(MLL)に関する研究は限られています。実際には、MLLデータセットはしばしばクラス不均衡であり、本質的に困難であり、CLではさらに深刻な問題となっています。しかし、MLCLでMacro-AUCを具体的に最適化するための研究はありません。このギャップを埋めるために、この論文では、マクロAUC指向MLCLの不均衡問題に取り組むための新しいメモリリプレイベースの方法を提案します。具体的には、最近の理論研究に触発されて、新しいRLDAM(Reweighted Label-Distribution-Aware Margin)損失を提案します。さらに、RLDAM 損失と互換性を持たせるために、元のデータセットの正と負のインスタンスの数をメモリに保持するために、Weight Retain Updating (WRU) という新しいメモリ更新戦略が提案されています。理論的には、RLDAMベースのアルゴリズムの優れた一般化分析をMacro-AUCの観点から、バッチMLL設定とMLCL設定で別々に提供します。これは、MLCLの理論的一般化分析を私たちの知る限り提供した最初の研究です。最後に、一連の実験結果は、いくつかのベースラインに対する私たちの方法の有効性を示しています。コードは https://github.com/ML-Group-SDU/Macro-AUC-CL で入手できます。
Article: 3
Title:
Fundamental Limits in the Search for Less Discriminatory Algorithms – and How to Avoid Them
Published:
2024-12-24
Authors:
Benjamin Laufer, Manisch Raghavan, Solon Barocas
Abstract:
異種インパクトドクトリンは、不公平なデータ駆動型アルゴリズムの決定を対象とする重要な法的装置を提供します。最近の一連の作業は、このドクトリンからのある特定の構成要素、つまり差別の少ない代替案、つまり現状維持またはベースライン政策の同じビジネスニーズを満たしながら格差を縮小する代替政策を概念化し、運用することに焦点を当てています。この論文では、4つの基本的な結果を提示していますが、それぞれが差別性の低いアルゴリズム(LDA)の検索と使用の限界を表しています。(1)統計的には、LDAは固定された母集団を振り返るとほぼ常に識別可能ですが、観測されていない分布で代替分類器がどのように機能するかについて結論を出すことはより困難です。(2)数学的には、分類器は、各グループのサイズと各グループにおける関心のあるプロパティまたは結果の基本率を考慮して、グループ間の精度と選択率の格差の特定の組み合わせのみを示すことができます。(3)計算上、効用のベースラインレベルでの低視差分類器の検索はNP困難です。(4)モデリングと消費者福祉の観点からのみLDAを定義すると、LDAは、不利な立場にあるグループのメンバーを含む消費者を厳密に悪化させるLDAにつながる可能性があります。これらの調査結果は、一見すると企業が差別の主張に対して強力な防御をしているように見えるかもしれませんが、物語の一部しか語っていません。この状況で達成可能なことを制限した否定的な結果の一つ一つについて、実行可能な低格差政策を特定するのに非常に効果的な効果的で低コストの戦略が存在することを示す肯定的な結果を提供します。
Article: 4
Title:
Multimodal Learning with Uncertainty Quantification based on Discounted Belief Fusion
Published:
2024-12-23
Authors:
Grigor Bezirganyan, Sana Sellami, Laure Berti-Équille, Sébastien Fournier
Abstract:
マルチモーダルAIモデルは、画像、テキスト、オーディオ、ビデオなどの複数のソースやモダリティから情報が引き出されるヘルスケア、金融、自動運転などの分野でますます使用されています。しかし、ノイズ、不十分な証拠、モダリティ間の対立から生じる不確実性を効果的に管理することは、信頼性の高い意思決定にとって非常に重要です。現在の不確実性を意識した ML 手法 (証拠の平均化や証拠の蓄積など) は、紛争の多いシナリオの不確実性を過小評価しています。さらに、最先端のエビデンス平均化戦略は、非結合性に苦労し、複数のモダリティに拡張できません。これらの課題に対処するために、順序不変証拠融合を用いた新しいマルチモーダル学習方法を提案し、信頼性の低いモダリティが検出されたときに不確定な質量を再割り当てする競合ベースの割引メカニズムを導入します。理論分析と実験的検証の両方を提供し、以前の研究とは異なり、提案されたアプローチは、提供された不確実性の推定値に基づいて競合するサンプルと競合しないサンプルを効果的に区別し、不確実性に基づく競合検出で以前のモデルよりも優れていることを示しています。
Article: 5
Title:
Assimilating Observed Surface Pressure into ML Weather Prediction Models
Published:
2024-12-23
Authors:
Laura C. Slivinski, Jeffrey S. Whitaker, Sergey Frolov, Timothy A. Smith, Niraj Agarwal
Abstract:
近年、高精度な機械学習(ML)気象予報モデルの開発が盛んに行われていますが、これらのモデルの評価は主に中期予報に焦点が当てられており、サイクリングデータ同化(DA)システムにおける性能には焦点が当てられていません。Cycling DAは、観測値と以前のモデル予測を前提として、モデルの初期条件の統計的に最適な推定値を提供します。ここでは、実際の表面圧力観測は、アンサンブルカルマンフィルタを使用していくつかの一般的なMLモデルに同化されます。このモデルでは、観測されていない状態変数をスパース観測から制約するために、正確なアンサンブル共分散推定が不可欠です。このサイクリング DA システムでは、決定論的 ML モデルは、発散するまで小規模なノイズを蓄積します。スペクトルフィルターを使用してこのノイズを軽減すると、システムを安定させることができますが、従来のモデルよりも誤差が大きくなります。摂動実験は、これらのモデルが短期的な誤差の増加を正確に表していないため、相互変数共分散の推定が不十分であることを示しています。