GENZITSU
commented
1 year ago 文化を覗く新しい望遠鏡 〜NgramViewer, Word2vec, DALL·E〜
文化や社会の変化を観察・分析するためのツールとして近年の自然言語処理の技術やtext-to-imageがどのように活用できるかが紹介されていて、面白い。
ちなみにビッグデータを用いて社会や文化を分析しようという流派のことを「カルチャロミクス」と呼ぶらしい。
「カルチャロミクス：文化をビッグデータで計測する」は、このNgram Viewerを作った研究者の書籍です。彼らは、ビッグデータを活用して文化を解析する方法に「カルチャロミクス」と名付けて、書籍内で実例をいくつも紹介しています。
NgramViewer
書籍に登場した単語の回数を調べていくことで、新しい製品や概念がどのように社会に受容されていき、衰退していったかなどを調べることができる。
Ngram Viewerは、Googleが開発したシステムです。Googleは過去数世紀の書籍をデジタル化しており、Ngram Viewerでは、単語が書籍の中にどれだけ出現していたのかを、簡単に調べられます。
Word2vec
単語の意味をベクトル化することで、単純集計を超えた分析ができるようになった。
例えば、過去と現在の単語の関係マップを見比べて、昔の概念Aに相当する今の概念を探しにいくとか。 (大統領とかがわかりやすい)。また過去と現在だけでなく、地域別のマップを見比べることも可能。
また、単語の意味変化を時系列的に可視化する手法も存在する。
さらに、単語の意味関係を可視化することで、社会的なバイアスを明らかにする手法もある。
例えば職業と性別の意味的な近さを可視化することで、機長は男、アテンダントは女性みたいなバイアスを改めて可視化することが可能。
DALL-E
textの意味を正確に理解してそれを描画することができるtext-to-imageの技術を用いて、出てきた画像を元に分析を行う手法。
promptをどう与えるかによって結果はかなり変わりそうだが、以下の例が面白い。
各年代ごとの分析
地域ごとの分析
注意点
欧米系のデータがたくさん蓄積されている傾向があるので、欧米以外の国に対する解析結果が本当に正しいか？どのようなデータが使われているか？の確認はちゃんとした方が良さそう。
でかいモデルになればなるほど、どんなデータを使ったかは開示されない傾向があるので解析結果の取り扱いに困りそう。
データについては、西洋のデータがより蓄積されそれが解析される傾向にあります。DALL·Eにおいて、日本に関する画像生成がどこか古めかしい画像が多く、これは学習時に使われた画像の偏りに起因している可能性もあります。DALL·Eを文化や社会研究に使う場合は、学習時のデータに偏りがないかを確認することが必要になってくると思います。 従来の人文系の研究でも、調査対象が偏っている問題は、WEIRD samples (Western, Educated, Industrialized, Rich and Democratic)と呼ばれ課題となっています。今後、データを活用した研究においても、WEIRDでないデータをどう入れ込むかが重要だと思います。
コメント
歴史の偉人に現代に物申させる的な本があったりするが、text-to-imageがさらに発展して、text-to-video, text-to-audioとかまで進むと、AIにそれをやらせる人が出てきたりしそう。大衆の多くは背後にあるデータのバイアスなどには興味がないので、クソデカ基盤モデルを唯一神とした教団が登場しそう。
prompt tunerという職種の登場がささやかれているが、かつての霊媒師、信託者のような感じの立ち回りをすることになっていくのだろうか笑
このタイミングで知っておきたい 開発生産性の高いエンジニア組織の特徴とは
開発生産性の高い企業の特徴および、生産性の改善に成功したはてな社とグロービス社の事例が紹介されている。
特徴
収益性に直結してくる指標および先行指標をしっかり測り、その数値を元に組織全体で改善活動を行えるような組織。
はてなの事例
グロービスの事例
コメント
Findy temasを使わないと簡単には計測できないような指標もあるが、まずは計測することが大事なのは同意。
その指標をチーム間で共有し議論する文化を作ったことで成功したという事例はzozoのテックブログでも見た気がする。
出典
このタイミングで知っておきたい 開発生産性の高いエンジニア組織の特徴とは