Transformerは分散できる代償として計算量が爆発的に多いという不利がある。 一度みんなが忘れていたリカレントニューラルネットワーク(RNN)もボケーっとしている場合ではなかった。 なんと、GPT3並の性能を持つ、しかも完全にオープンな大規模言語モデルが公開されていた。 そのなもRWKV(RuwaKuvと発音しろと書いてある。ルワクフ?) RWKVはRNNなのでGPUメモリをそれほど大量に必要としない。 3GBのVRAMでも動くという。 時間がない方はビデオをご覧ください 僕の失敗は、何も考えずにgit lfs installでディレクトリごとコピーしようとしたこと。 このディレクトリには過去のモデルデータが全部あるので、ひとつ30GBのモデルデータを何十個もダウンロードしようとしていて終わらなかったのだ。 モデルデータは一とつあれば十分なのでひとつだけにする。 次に、chatのリポ

GPTはじめ大規模言語モデルの登場により、MLシステム開発にもパラダイムシフトが起こっています。流れが速すぎてやや混沌としてきたので、プロンプトエンジニアリングの考え方をはじめとした新しい概念について有用な引用と共に交通整理をしてみました。 今から始めたい人はまずこれを読むと、どんな点に配慮すべきかが…

総務 @So_Mu3 そーいえば昔趣味でネトゲ作って運営したけど、システムやルールから最適解を探して多少のリスクを許容しながら勝利を目指すプレイヤーは全体の5%にも満たず、ゼロリスクで長時間同じ作業を繰り返すファーミングプレイヤーが殆どだったの思い出した。 サイトで記事書く人は全体の0.1%くらいだったかな 2020-06-23 17:59:59

NECが構築した電子カルテシステムを使う全国280の大規模病院のうち、半数以上の病院でサーバーやパソコンが病院ごとに同じIDとパスワードを使い回す状態になっていたことがわかった。使い回しが原因で、サ…

インド地質調査所（GSI）は、隣国パキスタンとの係争地を含むカシミール地方で推定590万トン規模のリチウム鉱床を発見したと発表した。リチウムはスマートフォンや電気自動車（EV）向け電池の主要材料だ。インドでは資源開発に期待が高まる一方、地政学上あるいは技術面での課題も指摘される。インドは2020年から21年にかけ、リチウムの7割を中国などからの輸入に頼る。リチウムイオン電池の輸入量も多い。米地

京都市の立命館大３年、浜野日菜子さん（２１）が劇薬のタリウム摂取により殺害された事件で、殺人容疑で逮捕された知人の不動産賃貸業、宮本一希容疑者（３７）＝京都市左京区＝の叔母（６１）が約３年前から植物状態となっており、タリウムを摂取したとみられる症状があったことが２４日、捜査関係者への取材で分かった。大阪府警が宮本容疑者との関連を慎重に調べている。 捜査関係者らによると、叔母は令和２年７月中旬、京都市左京区の自宅で倒れて救急搬送された。現在は入院中だが、意識不明の植物状態だという。浜野さんの事件後、府警が当時の状況を詳しく調べたところ、頭痛や倦怠（けんたい）感などタリウムを摂取したような症状があったという。 知人らによると、叔母は京都市内で茶道裏千家の講師として活動するかたわら、不動産会社を運営していた。倒れた後、会社は宮本容疑者が引き継いだといい、府警が経緯を調べる。 一方、大阪地検は同日

色ブラック 適合C301dn 適合機種メーカー沖データ(OKI) 種別純正品 印字可能枚数(枚)(A4/5%印刷時)1500

いくらAIが便利だからって、子どもの教育データをGPTに流し込んで表を作らせようとする馬鹿教師は滅亡して欲しい 確かにAIは便利なんですが、どこかの会社とのオンライン会議などのログをそのまま文字起こしにして出力し、それをGPTに食わせて要約してSLACKに流している馬鹿もいました。まあどこまでOpenAIを信頼するか（あるいは他のサービスと比べてマシと考えるか）にもよるのでしょうが、某ベンチャー企業で当方との打ち合わせのログをそのままGPT3.5に食わせて出力した議事録のサマリを送ってきたので、さっそく「何考えてんだおまえ」という話になりました。 なんでこんなことに気を使うのかというと、もちろん第一義的には私どものクライアントは潜在的にOpenAIの競合でもあるからなのですが、ただ、仮にAppleの仕事をしていた人がGoogleのAndroidOSでPixelが提供している文字起こしツール

東京大学大学院薬学系研究科教授の池谷裕二さんこの記事の写真をすべて見る 人工知能による対話型の自動応答ソフト「ChatGPT」が登場し、大きな反響を呼んでいる。海外では学生たちがAIを使用し試験対策をする動きもある。日本の教育界では、AIの活用をどのように受け止めているのか。AERA 2023年3月20日号の特集「ChatGPTの衝撃」から、ここではすでにGPTを導入している現場を紹介する。 【「将来なくなる仕事」をChatGPTに聞いてみた結果はこうなった！】 ＊　　＊　　＊ GPTによって激変する業界の一つが、教育現場だ。 脳研究者で東京大学大学院薬学系研究科教授の池谷（いけがや）裕二さんのもとに、この冬、一通のメールが届いた。 「例年と出題傾向が違いますが」 差出人は池谷さんの授業を受けている学生。今年1月に期末テストが終わった後のことだ。 東大に限らず、大学生の多くは過去問をもとに

ちょっと前に以下のようなことを放言したら、思いの外反響が多くてちょっとびっくりしたのでした。それだけ、現代のLLM chatbot / generative AIの台頭に期待と不安を抱いている人が多いということの裏返しなのでしょう。 既に色々コメントが出ているけど、我々人類が「知的労働」だと思っていることの大半が実は「過去実績をなぞって適当にその場に合わせて組み立てているだけ」なんじゃないかと訝っているので、そういう「自称知的労働」は多分LLMで代替されると思う。新奇なものを生み出す仕事は相変わらず残る https://t.co/GGK41vSDcn— TJO (@TJO_datasci) 2023年3月15日 昨年の年末振り返り記事でも話題にしたChatGPT（そして後続の各種LLM chatbot）ですが、今年に入ってからの話題の広がり方には想像を超えるものがあり、ついに朝の情報番組な

日本マイクロソフトは3月22日、米Microsoftが2月にプレビュー版の提供を始めた「新しいBing」について、利用動向を公開した。プレビュー版の登録者数は全世界で100万人を超え、うち10万人以上が日本人という。1人当たりの検索数は日本がトップだった。 新しいBingは、既存の検索エンジン「Bing」に、大規模言語モデル「GPT-4」ベースのチャットAIを搭載したもの。ChatGPTなどと似たイメージで、チャットで質問しながら知りたい内容が検索できる。日本マイクロソフトによれば、プレビュー版の提供開始以来、日本からは200万件以上チャットでの質問が送られたという。 Microsoftが提供する他のAIサービスについても、日本での利用動向を公開した。例えばクラウドサービス「Microsoft Azure」から、米OpenAIの大規模言語モデル「GPT-3.5」などのAPIにアクセスできる

sponsored MSI「MAG CORELIQUID I360」レビュー 猛暑上等！ゲーミングPCの温度を2万円でここまで下げられる価格以上の満足度。CPUクーラーは夏に買うのがベストな理由を教えます sponsored Radiant GZ3500B760/D5、Radiant SDM3300X600A、Lepton Novos WS3600B860 Windows 11への入れ替えはお済みですか？ 企業のシステム管理者にオススメしたいお仕事用BTO PC3選 sponsored “モノづくり”の赤い糸がつなぐ日本とフランス きらびやかな大阪・関西万博のフランス館、その裏でひっそりとJAPANNEXTが支えているのはご存じでしょうか sponsored IoTをリードしてきたソラコムがこれからの実績から次のトレンドを占う 10年経って見えてきたIoTの勝ちパターン　ソラコムの考える「

ウクライナを訪れ、ゼレンスキー大統領と会談した岸田文雄首相。日本から持参した手土産が、お菓子の「うまい棒」だったのではないか――。そんなうわさが、ネット上をにぎわせている。　事の発端は、岸田首相のウ…

米国では何年も前から、「次に流行るアルコールは日本酒だ」と言われてはきたものの、実際に人気が出たのは他の酒ばかりだった。だがここに来て、ついに「飛躍の兆し」が見えはじめたという──米紙「ニューヨーク・タイムズ」が、現地の状況を取材した。 自宅で日本酒を造ってみたら 加藤忍は若い頃、東京で初めて日本酒を飲んだ。雑味があり刺激が強くて、とても好きにはなれなかった。しかし、年上の同僚から「それは質の悪い安酒を飲んだからだよ」と言われ、上質な日本酒を知っていくうちに、彼はだんだんとそれが好きになっていった。 2004年、メリーランド大学でビジネスを学ぶために渡米した加藤は、自身が初めて口にしたような質の悪い酒しか買う余裕がなかった。そこで彼は、いっそ自分で醸造してみようと思い立った。自宅のキッチンで米を蒸し、それを発酵させた。驚いたことに出来栄えは上々で、友人たちにも好評だった。 その後、日産自動

（2025年2月26日追記） 以下は2023年3月21日のnoteです。 生成AIサービスも色々増えたこともあり、このBotもある程度役目を終えたのかも、ということで「学習指導要領何でも回答Bot」を停止したいと思います。 というのは建前で、今も毎日のように使ってくださる方がいたりするのですが、維持費に毎月数千円かかっていて、なかなかお財布に痛いので、、、 代わりと言っては何ですが、ほぼほぼ同じような機能のGPTをつくっておきましたので、今後何かあればこちらをお使いください。 ※Open AIのアカウントは必要になります 今でもDocsbot.aiで以下のbotもつくれるので、レシピ替わりにnoteは残しておきますー 前回「学校教育における全体アーキテクチャを描いてみた」がそれなりに好反応だったので、次はその中身の解説の予定でしたが、、、 行き当たりバッタリのnoteなので、今回は（も？）

備蓄食品製造のワンテーブル（宮城県多賀城市）が各地で進めている官民連携事業を巡り、島田昌幸社長が事業の狙いを「自治体の行政機能をぶん取る」などと社外の関係者に説明していたことが、河北新報社が入手した録音データで分かった。人口減少や産業衰退などの課題を抱える小規模自治体を懐柔し、自社の利益につなげよ…

この記事は何 Techカテゴリに含まれてこそいるものの、この記事はあくまで理論の側面でアプローチについて語るメモのようなものです。このアプローチに沿ったプロンプトやプログラムを書いてはいるものの、まだ期待通りの挙動をするとは言い難いです。 なぜ公開したかというと、自分より賢くて素早い誰かが理屈だけを見て代わりにやってくれたりしないか、という期待からです。 ChatGPT Plus(GPT-4 APIではない)とPythonを使います。 今回作ったプロンプト そういう前提を踏まえ、まだ完成していないプロンプトを掲載します。 プロンプト(コードブロック記法の関係で```が``に置換されている) # イントロダクション あなたはCLIを使用中の凄腕エンジニアとして振る舞ってください。 今からゲームをしましょう。 あなたの目の前にとあるtxtファイルがあります。 このtxtファイルに書かれている内