OpenMPプログラミング

オフィシャルサイト
http://www.openmp.org/

リンクなどは>>2以下で

↑

産業的な視点から考えて需要はありますか？

NULL

>>3
ある

OpenMPってなに？

共有メモリ型の並列計算のためのAPI。
対極にあるのが分散メモリ型のMPI。
いずれも計算用途。

pthreadやMPIより、OpenMPによる並列化ははるかに容易。

ただし共有メモリで並列計算するには、マシンのプロセッサ数が並列数以上でなくてはならない。
つまり、マシンのコストが高い。

gccにインストールできますか？

共有メモリ型のプログラミングって何十台というPCでできるものですか？

>>9
(　ﾟДﾟ)ﾎﾟｶｰﾝ

>>9
SDSMとか使ってがんばればできるぞ。
お薦めはしないがなー。

よい入門書があれば教えてください

初めてのMP

>>12
ドラクエやれ

OpenMPとMPIどちらを勉強するのが得策ですか？

>>15
MPI

OpenAL

OpenMPとpthreadの違いがわかりません。
効率、可搬性などどちらが優れているのでしょうか？

Dualコア時代になるのに閑散としてるなこのスレ。
VisualStudio2005betaを使ってるヤツは少ないか。
所詮業務じゃ使えないしな。。
しかしDualコア＋HyperThreadで、この年末には
家庭用PCですら4CPUになっちまうのかな。スゲエ。

OpenMPをVCで使う方法を教えてください

　

>>20
2005β使え。

LinuxでOpenMPを使いたいのですが、gccのほかに何をダウンロードすればよいのでしょうか？

OpenMPを使う利点を教えてください

>>7

共有メモリ型擬似４CPUは、もう普及へ向かっているわけだがｗ

CELLは分散メモリだからMPIか？

gccに対応したフリーのOpenMPはどこからダウンロードできるのでしょうか？

http://phase.hpcc.jp/Omni/home.ja.html

PentiumD買ったので、手持ちのソフトをOpenMPで並列化しようと思ってる。
尼で見つけた "Parallel Programming in OpenMP" って本の評価はどんなもんですか？

ttp://www.amazon.co.jp/exec/obidos/ASIN/1558606718/250-7296386-2789028

2000年の本だと古いんじゃないかなあ。
Intelのサイトで技術PDF探してみては？

>>30
ですよねぇ。こういう方面の技術って、手詰まりなんですかね？

OpenMPってpthreadと比較して何が違うのでしょうか？

逐次プログラムにちょっと書き足すだけで並列に動くお手軽さ。

質問
#pragma omp parallel for private(j)
for(i=0;i<100;i++)
for(j=0;j<100;j++)
　　　　　　何か演算

とした場合これはiを分割して実行していて
jはローカル変数として分割されたiの中で0〜99まで回してるってことですか？
それともjが分割されているってことですか？

愛を分割してる方

インテルのコンパイラにはOpenMPはついてくるのですか？

>>36
日本語（ry
icc -openmp hoge.c

Sunのソラリス落とせば
OpenMP付のSunのコンパイラも手に入るよ
高性能コンパイラが無料だなんてなあ

Athlon系は分散メモリだからOpenMP使えないのかな?

>>39
どういう意味？

簡単に並列処理を行わせるようにするためのもの？
将来的にはこういうのが普通に使われるようになるかもね。

GCCも4.2でOpenMP対応するみたいだね。
そしたらいよいよ知名度上がるんじゃないの？

gccがないとOpenMP使えなかった環境てマックくらいじゃない？
Windowsもかな

Intel コンパイラはサポートに熱心だよな。
今度Mac版も出るらしいから、Win、Mac、Linuxどの環境でもGCC、IntelコンパイラでOpenMP
できるようになる鴨。

>>44

おまい、髭のおっさんだろ。

OpenMPが使えるかどうかによってヘッダをインクルードするかどうかを条件分岐したいのですが
どのようにしたらコンパイラがOpenMPをサポートしているか調べられるでしょうか？

>>43
VC++8は対応してるよ

>>46
#ifdef _OPENMP
#endif

GOMPはどこのページからダウンロードできるのでしょうか？

C++相談室で教えてやっただろうが。

TextSS　のWindowsXP(Professional)64bit化おながいします

もしくは64bitにネイティブ対応したテキスト置換ソフトありますか？

そういや64bitにネイティブ対応している２ｃｈブラウザてありましたっけ？

>>50
kwsk

>>52
今はマージされたのがtagsにある。
鯖の健康を損なわない範囲で好きなだけチェックアウトしなさい。

OpenMP初めて知りました。こんなに簡単にマルチスレッドプログラムが作れるなんて
時代が変わったようだな

大きい単位で独立性の高いスレッドを切り出すのがパフォーマンスを上げるポイントなので、
細かい単位であっちこちで同期を取るようなプログラムが手軽に作れてしまえるOpenMPは痛し痒し。
激しくパフォーマンスが出なくてシングルで動かしたときより遅くなることも。

OpenMPってwindowsでできるの?

>>56
VC++ 2005

>>55
細粒度はパフォーマンスでないけど、お手軽並列化〜♪って感じなんでないかい。

OpenMPってお手軽だけど、効率はあまり良くないよね

ﾓﾁﾛﾝｿｳﾖ

ハイパースレッディングでOpenMP使うと激しく遅くなるよね。

それは論理ＣＰＵにスレッドをバインドすれば
なおるんじゃね？
どうやってバインドするかしらねーけど。

あまってる演算器や回路をつかって２CPUに見せかけるのがHTだから
行列の計算のような同じタイプの計算を並列化した場合遅くなるのは当たり前。
片方は整数もう片方で実数計算をさせると効果が出るかもしれない。

そうなると　#pragma omp for が全滅・・・

同じ回路を使う場合でもレジスタが倍になって依存性が減るから、パイプラインのストールが減るよ。
あと実数がメインの場合、実数程の負荷は無いにせよアドレスの計算やループカウンタで整数も結構忙しい。

実数をメインにするとそこらへん上手く住み分け出来てると思った。
演算器を効率良く使えてウマー。

依存性が減るって表現はしっくりこないな

VS2005のC++でOpenMPを使おうと思って、コードを書きましたが、
プログラムが開始する前にエラーが起こります。
/openmp　をつけてコンパイルしたり、マニフェストファイルに
<file name="vcompd.dll" hash="XXXX" hashalg="XXX"/>と入れ
たりしましたが、まったくピクリとも動いてくれません。
皆さんは普通にVS2005でOpenMP使ってますか？

インストーラ用のマージモジュールがあったので、適当なプログラムでインストーラーを作って入れた。
\Program Files\Common Files\Merge Modules
Microsoft_VC80_OpenMP_x86.msm
Microsoft_VC80_DebugOpenMP_x86.msm
リリース版だけならvcregist_x86.exeでも導入できる。

>>67
うん、普通に使える。

>プログラムが開始する前にエラーが起こります。

ってのがどういう意味かよく分からんし(コンパイル時か実行時か)、
とりあえずエラーメッセージとかソースとか晒してみたら。

Pro以上なら普通に使えるが、実はStdやExpressでも使う方法がある。
足りないものはomp.h とvcomp(d).dllとインポートライブラリで、
これはPlatformSDK (for Win2003とかいう新しめの奴）を入れると付いてくる。
これをIDEの各検索パスに追加すればコンパイルは出来る。
ただし、WinSXSディレクトリにdllをインストールしないので実行時にDLLが無いためエラーになる。
この導入の仕方は>>68のとおり。

同じ方法でPGOもできないかと思ったがこれは無理でした。
ただ単純な/GL /LTCG　オプションでのコンパイルは出来るからこれで我慢。

ありがとうございます。インポートライブラリを入れるとうまく動きました。
ためしに
for( i=1; i<=10000000; i++ ) {
double t1 = sin( i*3.14/10000000.0 );
double t2 = cos( i*3.14/10000000.0 );
s = s+t1*t1+t2*t2;
}
を計算すると、デバッグ版ではOpenMPの方が５倍くらい時間がかかるが、
リリース版では１割くらい早くなった。
ちなみに、ハイパースレッドのデュアル

#pragma omp parallel for reduction(+:s)
for ( ...

そのプログラムだとこうですか？うちの環境だとHTの１CPUだからかずぶずぶの結果です。

OpenMP 入門ありますよ。
http://www.xlsoft.com/jp/products/intel/docs/OpenMP/html/OpenMP.html

その次のステップの入門書がほしい

72>>　その意味で　ずぶずぶ　とはどこの方言？

>>75
東京

g++では利用できないのでしょうか？

>>77
snapshotsとかからGCC 4.2以降を取ってきて試してみろ

Openマンコぽこちんか

OpenマンPのG☆SPOTに決まってるだろバカか

>>70
omp.hがPSDK(SP1)/(R2)に入っていませんでした。
実際には何をインストールなさいましたか。

>>68
マージモジュールを使ったインストール例を参照することは可能でしょうか。
vs6しか使ったことがなく、どうもうまくいきません。


なお、私はVS2005のstd(アップグレード)を使っています。

Sun SorilisとVC++(std)の組み合わせで、OpenMPできますか？？

>>82
できない

OpenMPでスレッド数を取得するには
#pragma omp parallel
{
cout<<omp_get_num_threads()<<endl;
}
でよいのでしょうか？もっと何かスマートな方法はないでしょうか？

#pragma omp sectionsでfor構文でのdynamicスケジュールの様な動作をさせたいのですが、
どのように書けばよいのでしょうか？

しらね

>>72-73
OpenMPによる並列プログラミングと数値計算法
http://www.amazon.co.jp/gp/product/4621077171
とかどーでしょ。

>>84
パラレルリージョンの中でなくてもよいはず。
#ifdef _OPENMP
cout<<omp_get_num_threads()<<endl;
#endif
などとすればよいかと。

omp_get_num_threads() はその時点でスレッドチームを構成しているスレッドの数を返すから
逐次実行部分で呼ぶと 1 を返す。

#pragma omp parallel
{
#pragma omp single
cout<<omp_get_num_threads()<<endl;
}

program main
!$ use omp_lib
implicit none
character(len=4),parameter :: str(0:2) = ["hage","hoge","huge"]
print *, "Hello, World!"
!$omp parallel num_threads(3)
!$ print *, trim(str(omp_get_thread_num()))
!$omp end parallel
end program main

レベルの低い人向けの商売ってあるじゃないですか

たとえば、カレーライス。子供の食い物ね。マクドナルド。通はモスバーガーでしょ？
野球だと、巨人。クルマだと、トヨタ。音楽だと、ミスチル。政治だと、自民党。
ビートルズだと、ポールの曲。音楽分かってる人はジョンですよね。
マンガだと、手塚治虫や藤子不二雄。今更読む必要もないｗ
小説だと、古本屋に山積されてる赤川次郎。小説マニアは読みませんねｗ
長嶋茂雄・新庄剛志・三浦カズ・ゴン。名前だけでむかつきますね。

ＤＥＬＬってつまりそういうレベルの低い人向けの商品ですよね。
歴史を作るのは我々マニアですから、記憶からはいつか消え去るんですよＤＥＬＬはｗ

C++のクラスでstaticな変数を使いたいのですが、OpenMPの中で更新した場合、安全に更新されるのでしょうか？

されると思う？localな変数でも、ちゃんと明示しないと無理だし、
データ並列になっていないのでは意味無いと思わない？

　　　　　　　,ｨ　　　　　　　　　　　　　　　　　　　　　 __
　 　 　　,. / |´￣｀ヽー- 、 ﾄ、　　　　　　　　, -‐､/./.- 、　書き込みのはやきこと風の如く
　　　　/　|　|　　　　ヽ　　 l　l　　　　　　　　（ 火◇風 ﾉ
　　/o￣｀ﾊ._.ゝ==＝┴＝く.ノ- 、　　　　　 ノ ◇　◇ (　　他人と会話せざること林の如く
　 /o Ｏ / l´ ⌒　　　　⌒　 lo ',ヽ　 　 　（　山◇ 林 ｝
　 ＼___/.　ト､（●） 　（●） ﾊ　 ∧　　　 　`⌒/7へ‐´　ネットで煽ること火の如く
　／　,ｲ 　 ﾚ::::⌒（__人__）⌒l~T--‐彡　　　　/./
／￣￣ｌ.　 彡､　　|r┬-|　ﾉ'l　 ｌ::::::::::彡ー7⌒つ、　　部屋から動かざること山の如し
彡:::::::::::l　　ト､＿_ `ー' ／| 　l::::::::::::ミ　 {,_.ｲﾆﾉ
彡ソ/ﾉﾊ 　 ト､　＼　　／ ,ｲ　 川ﾊ ヾー‐'^┴

>>92
ちゃんと排他制御や共有のための宣言をすれば問題ないかと。
パラレルリージョンの中で single で1プロセスだけがアクセスするとか
reduction で更新するとかね。

祗園精舎の鐘の声
諸行無常の響きあり

娑羅双樹の花の色
盛者必衰の理をあらはす

おごれる人も久しからず
唯春の夜の夢のごとし

たけき者も遂にはほろびぬ
偏に風の前の塵に同じ

一般論として、MPIよりもOpenMPの方が性能が低下する（遅くなる）ということはありえますか？
MPIのプログラムをOpenMPを使って書き換えたのですが、3割近く遅くなってしまいました。

一般論では遅くなります

きちんとチューニングされていれば、MPIの方が速い。
あとはpthreadを使って自分で書くという手もある。

OpenMPはお手軽。だからそれに伴って犠牲になっている部分もある。それが性能。

MPIで並列効果出せるほどの大きな粒度ならOpenMPにする必要はない。
OpenMPの利点は小さな粒度の並列処理が簡単に書けることとシングルソースで
非OpenMP環境でもビルドしてテストできること。
それから既存のソースにディレクティブ挿入するだけで並列化できるところかな。

>>101
同じ粒度でも、OpenMPの方が遅くなってしまいます。
OpenMPはスレッドレベルでの切り替えなので、プロセスレベルのMPIよりも、効率が良いと思っていたので
何が問題なのか、測りかねています。

競合してるんじゃない？

キャッシュのヒット率の差だと思う
もし、pragma omp forでやっているのなら、for文を二つに分けて
pragma omp parallelで二つに並列してみたら？

windows はaffinty maskを使えないの？

>>102
複数のスレッドが同じ行列要素とかメモリアドレスを参照しているなら効率は
たいてい悪くなるし、プロセスの立ち上げより計算時間の方が長いのが普通だから
OpenMPの宣伝文句に騙されない方がいいと思う。
モニタリングツールがあるなら>>104の原因が疑われるからキャッシュのヒット率
みてみたらいいと思うけど、OpenMPの困る所は性能がコンパイラとライブラリに
依存しすぎることだから、どのコンパイラ使ってるかで全然違うので何とも言えないな。

環境は、Fedora5にデュアルコアOpteronx2の計4cpuをインテルコンパイラを使って、コンパイルしています。
系を大きくしても（すなわち、スレッド生成頻度をかなり下げても）300％程度で飽和してしまいます。
以前、Redhat+Xeon+インテルコンパイラの時は,2CPUで200%（4CPUではないのであまりよい比較ではありませんが）
計算速度も倍になっていたので、コンパイラの問題なのか、opteronの問題なのか、そのあたりもう少し調べてみたいと思います。

1CPU から 2CPU にスケールするのと、4CPU にスケールするのとじゃ
全然話が違うからね。

4cpuならうまく組めば1割も落ちないよ
スレッドチェッカーで確認してみな

>>107
OpteronってことはNUMA構成で使ってるってことはないかな？
OpenMPはSMP用だからNUMAだと効率ががた落ちになることがあるよ。
あと趣味でやってるのでなければCPU使用率よりも計算までの終了時間で考えた方がいいと思う。
メモリ競合起こすとCPU100%でも計算速度半分なんてざらだから。

カーネルがスレッドのスケジューリングとメモリページの割当を上手く管理していれば
Dual Core x 2 Socket くらい何とかならないの?

CPUとSIMDで行列計算をうまく分散してくれるコンパイラはないものか

lapackのSIMD化でダメなの？
そんなのはいくらでもあるが

OpenMP節を入れ子にすると、並列化されなくなってしまいます。
入れ子のOpenMP節を並列化する方法はないものでしょうか？

>>114
OpenMP + nested loopで検索すればたくさんでてくるよ

インテルのスレッディング・ビルディング・ブロックとOpenMPの違いって何？

OpwnMP：
共有メモリ型並列計算機におけるマルチスレッド並列プログラミングのためのAPI

インテル スレッディング・ビルディング・ブロック：
C++用ランタイム・ライブラリー

Windows ServerR 2003 R2 Platform SDK
にopenmpのファイルが入ってるのかと思ったら入って無かった。
Microsoft Windows Software Development Kit for Windows Vista
にopenmpのファイルが入ってた。
ファイルの場所が
Microsoft SDKs\Windows\v6.0\VC\
以下のincludeとlibだから少し戸惑ってしまった。

で、さっそく簡単なプログラムを作って実行してみたらSpybotが反応したんだが。
vcompd.dllにスパイウェアが入ってるのか?

Microsoft Windows Software Development Kit for Windows Vista
vcredist_x86.exe

この２つでVC2005Expressでも使えた。

他人の書いた数値解析のプログラムをOpenMP対応にしている度素人です。
まずテストに単にパラレルリージョンを指定しただけのプログラムを走らせたら
パフォーマンスが半分くらいにまで落ち込んで困っています（スレッド数はCPU数以下です）。
しかもパラレルリージョンの範囲が広ければ広いほどパフォーマンスが悪化するのですが
これは当然なのでしょうか？
ちなみにパラレルリージョン内を並列化しても１CPUのときより10％くらい悪いです。
環境はＯＳはＲＨＥＬ、インテルのfortranコンパイラです。

的外れだが同じ作業をしていた素人として。

スレッド生成・消滅のオーバーヘッドは思いのほか大きい
$omp parallel 〜　$omp end parallel
が極めて複数回呼ばれる場合にパフォーマンスは非常に落ちる
ネストループ内部、100万回呼ばれるルーチン内など

シングルの作業内容をマルチ対応にするのは面倒ですね。
gprof等でタイムクリティカルな部分を探し、手を入れてみましょう

パラレルリージョンは例えば並列計算と逐次計算を交互にやるときに
逐次計算のたびにパラレルリージョンから出入りするオーバーヘッドを避けるために
使ったりするのが普通だと思う。

単にパラレルリージョンを指定しただけでは並列化による時間短縮はまったく起こらない。
並列化のオーバーヘッドがかかるだけ。
ループを並列化するとか、パラレルリージョンの中でデータ並列なりタスク並列の計算をするとかしないと。

一番大事なことはアルゴリズム中の並列性を見出すことかと。
並列性のない逐次アルゴリズムだとどうあがいてもパフォーマンスは出ない。

今日いろいろ簡単なテストプログラムを組んでいたのですが
かなり大きな配列を含む範囲を
単にパラレルリージョンに指定しただけのプログラムは
１CPUのときの1/3程度まで低下すると言う現象がありました。
（並列化を指定すると４CPUで３．８倍程度にちゃんとなりました）
同じ動作をするスレッドが複数あってメモリが競合してるんですかね？
あしたスレッドチェッカーの体験版でも落として調べてみます。
>>121
今日試してみたところうちの環境では
100000回ループするプログラムの内と外に
$omp parallel 〜　$omp end parallel
をおいたプログラムをそれぞれ比較したのですがほとんど差はありませんでした。
リージョン内は簡単な内容だったのですが、
リージョン内のプログラムの内容によってもスレッド生成・消滅のオーバーヘッドは変わってくるんですかね？

>>122
並列化の指定をする前にまず並列化予定の範囲をパラレルリージョン指定して
ちゃんと動くのかを確認したかったのです。

長文失礼

sections分割でsection分けを行った時に、
自分でどのスレッドに割り当てる的な事は
できないのでしょうか？

いまさらながら経過報告
元となったプログラムが古いものだったので、配列をallocateするのではなく
メインの宣言でかなり大きくとっていたのですが、
それを必要量にしたところかなり早くなりました。
ただ強い最適化(fastオプションとか)つけると
OpenMPはそんなにスピードが上がらずシングルスレッドに追いつかれてしまうんですけどね。

サーセーン。素人の恥ずかしい質問です。

OpenMPは従来の(OSなどに付属した)スレッドのライブラリの
置き換えとしては使用すべきではないのでしょうか？

（どこかで逐次プログラムの並列化がOpenMPの利用の前提であるとか見たのですが、）
並列で動くことが前提であるプログラム（例：HTTPデーモンなど）を
OpenMPを使って書こうと思っているのですが、止めたほうがいいのでしょうか・・・。

うわぁ、このスレ伸びてないんだなあ。悪いけどage

OpenMP はひとまとまりの大きなデータ（行列とか画像とか）に対する計算を
複数のスレッドで並列化するのに向いている希ガス。つまりデータ並列向き。
データ並列性のある for 文で書かれたアルゴリズム（行列ベクトル積とか
画像のしきい値処理とか）は parallel for ディレクティブでいとも簡単に並列化できる。
そこが OpenMP のおいしいところ。

タスク並列の並列プログラム、つまり各スレッドが独立に違う処理をする
（例えばそれぞれ別のクライアントからの要求を処理する）並列プログラムも
OpenMP で書けるけど、あまりうまみがないと思われ。

逐次プログラムを並列化するのが前提というのは違う気がする。
ただ、例えば parallel for ディレクティブしか使ってない並列プログラムは
コンパイラの OpenMP 機能をオフにすれば逐次プログラムとしてコンパイルできる。
そこが他の並列化手法（POSIXスレッドとかMPIとか）と違うところ。

でも、OpenMP機能をオフにするとコンパイル不能になる並列プログラムも書けるし、
parallel sections を使ったプログラムは逐次プログラムとしてコンパイルはできても
意味が変わってしまう（各セクションが順番に逐次実行される）。
つまり、この手のプログラムは並列で動くことが前提で書くわけだ。

結局のところ、OpenMP を使うのが妥当かどうかは126さんがやりたいことに依る。
並列性の高いデータ並列の計算をやりたいなら使う価値がある。

追加。OpenMPでHTTPデーモンを書いた、という報告を見たことがあったのを思い出した。
http://www.nic.uoregon.edu/iwomp2005/Papers/f35.pdf
俺は詳しく読んでないので内容についてはノーコメント。参考までに。

並列化した部分じゃbreakやreturn使えないし、難しかっただろうなぁ。
普通のWindowsプログラムでCreateThreadをOpenMPで置き換えろって言われたら・・・
メッセージポンプ使ってなんとかなるんだろうか

＞並列化した部分じゃbreakやreturn使えない

kwsk

スレッドを横断したbreakやreturnが出来ないということでは？
字句上は単なるスコープにしか見えないので、出来そう・・・しかし出来ないもどかしさ(何)。

>>128
ご返答ありがとうございます。
128氏から頂いた意見も考慮に入れつつ、色々と検討してみた結果、
今回やりたいことにはOpenMPは適していない、という判断に至りました。

しかし実験的にHTTPサーバらしきものをOpenMPを使って書いてみたところ、
簡単なものならかなり簡潔に書けることも分かり、、全てでなくとも部分的にOpenMPを使うのもありかと思えました。

>>119の方法で
VC2005ExpressEditionで使えるようになったはいいんだけど
forループの所に
#pragma omp parallel for
ってやっても
error C3005: ';' : OpenMP 'parallel' ディレクティブでは予期しないトークンです
とかいうエラーが発生して使えないんだけど何故なの？？

#pragma omp parallel sections
とか他のは通るけど，forループのだけどうしても使えん・・・

#pragma omp parallel
{
#pragma omp for
・・・
}
にすると
error C3001: 'if' : OpenMP ディレクティブ名が必要です
って言われる

>133
#pragma .. の行末に ';' がついてるとかいうオチだったら素っ裸で町内１周してこい

すでにあるプログラムをOpenMP化しようと思うのですが、以下のような場合にfuncがスレッドセーフで再入可能であれば問題ないですか？
#pragma omp for
for(int i=0;i<100000;i++)
{
func(i);
}

問題ないです
func()の定義が別ファイルでもおk

>>136
ありがとうです。
OpenMPはSMPで使う分にはかなり便利ですね。

IntelFortran10.0で数値解析やってるんですけど
サブルーチン内で並列化領域をつくるのと
サブルーチンごとメインに展開して並列化領域つくるのとで
並列化時の速度が異なったり(逐次だとほぼ一緒)
逐次計算部分にある並列化と関係ないサブルーチンを
コメントアウトするかしないかで並列化時の速度向上が変わります。
並列スレッドのスタックサイズとかの問題なんでしょうかね。　

速度や速度向上が具体的にどう違うの？

まず、各CPUに処理が効率よく割り振られているか、CPUの負荷率を見てみたらいいんじゃないか？

VC++2008でコンパイルするとVCOMPD.libが無いというエラーが出ます。
VCOMPD.libはどこで手に入りますか？

>>141
VS2005だとPro版以上でサポート。VS2008も同じだと思う。

>141
vcompd.libはProfessional版以外手に入れる方法はない。

ただしリリースビルド版のライブラリであるvcomp.libは
Windows Server 2008 SDKをインストールするとゲットできる。

デバッグビルドでもリリースビルドのライブラリ(vcomp.lib)を
リンクする設定にするとExpressでもOpenMPが自由に使用可能。

たとえば、ソケットのread/writeのwait待ちをやっているslect(poll)のようなもので
while(1)
#pragma omp parallel sections
{
#pragma omp section
read後その処理
#pragma omp section
write後その処理
}
で、ここで、暗黙のwaitがかかると思われるが、select的な使い方って、出来る？

sectionの跡にnowaitをいれといたらよいだけ？

nowaitを入れた場合、どのスレッドが生き残るのでしょうか？
それとも、並列実行するところはすべて子スレッドで、実行中のスレッド数が最大より1少なくなった時点で
メインスレッドが継続されるのでしょうか？

read/writeのtimeoutを入れておけば、なんとかなりますか。
しかし、openmp（のsections）では、スレッドは、死にますか？
一応、処理が終われば、lockが外れるだけでしょう（gccの実装ではそのようです）

スレッドプロファイラー使ってる人居るかな。
あのREGIONS　VIEWの各リージョンの範囲はなにで決まってるの?
同期から同期の間かと思ってたんだけどソースの位置みるとちがうっぽい。
最適化オプションのせいでソースとの対応がとれなくなってるのかしらん。

chkstkという関数に要する時間が
OpenMPにすると凄まじく増えているのが原因のようでした。
関数に引き渡す配列が多すぎなのか。

>>148
私もintel fortran10+mkl+openmpで数値計算しています
openmp初心者の私は、intelのopenmpのドキュメントを参考にしました。

parallel do ,sections ,reduction,privateあたりしか使っていませんが、オリジナルの
プログラムのマルチスレッド化は割と簡単に出来、計算時間も「ほぼ」スレッド数倍
にできました。
（当然ですがparallel region部分です。プログラム全体ではありません）

そもそもchkstkは並列処理できるかどうかを検討してはどうですか。
各スレッドで相互参照するのであれば、reduction宣言等が適切であれば問題ないはず。

>>148
関数のエントリ近辺で chkstk が呼び出され、必要に応じてスタックが拡張される
（実メモリが割り当てられる）わけですが、シングルスレッドの場合は一度拡張された
スタックはもちろん再利用されるので負荷が軽いわけです。

スタックはリニアなアドレスに(ページング機構を用いて)メモリを割り当てる必要があるため、
割り当てられたページを再利用できない場合には時としてヒープよりも確保・解放が重い
メモリとなります。マルチスレッドでスタックが頻繁に成長するような場合には、メモリを
スタック上に取るのをやめて、std::vector などを用いてヒープから確保した方がよいと
思います。

たどたどしい説明になってしまった。

・アプリケーションAが、calc1.dll と calc2.dll を呼んでいる
・calc1.dll と calc2.dll は共に IntelCompiler で OpenMP を使って並列化
・calc1.dll のルーチンは問題なく呼べる
・calc2.dll のルーチンを呼ぶと、

　　OMP abort: Initializing libguide.lib, but fount libguide.lib already initialized

　を表示して落ちる／(^o^)＼

ネットを漁ってみて、 環境変数 KMP_DUPLICATE_LIB_OK を TRUE にしてみたり
libguide.lib の代わりに libguide40.lib を使ってみるも効果なし

複数の DLL が Intel の OpenMP 使ってるとアウト？
そうなると DLL じゃ使えねーってハナシになるんですが・・・・

>>143
Windows Server 2008 SDKにvcompd.libも入ってるみたい。

GCCで4.3.1でOpenを利用するためのconfigureオプションを教えてください。
makeしてインストールしたgccを利用すると#include <omp.h>で
ファイルが無いと言われて困ってます。
gcc-4.3.1\libgomp\omp.h.in
は存在するのですが、どうすればいいのでしょう？configureは
./configure --enable-threads=win32 --with-system-zlib で行いました。

Open => OpenMPのミスです。

OpenMPが使えるGCCを自前でビルドしたことはないけど
MinGW用のGCC 4.3.0でgcc -vとしてバージョンを表示させると
configure時のオプションがずらっと表示される。

> gcc -v
Using built-in specs.
Target: mingw32
Configured with: ../gcc-4.3.0/configure --enable-languages=c,ada,c++,fortran,java,objc,obj-c++
--disable-sjlj-exceptions --enable-shared --enable-libgcj --enable-libgomp --with-dwarf2
--disable-win32-registry --enable-libstdcxx-debug --enable-concept-checks
--enable-version-specific-runtime-libs --build=mingw32 --with-bugurl=http://www.mingw.org/bugs.shtml
--prefix=/mingw --with-gmp=/mingw/src/gcc/gmp-mpfr-root --with-mpfr=/mingw/src/gcc/gmp-mpfr-root
--with-libiconv-prefix=/
mingw/src/gcc/libiconv-root
Thread model: win32
gcc version 4.3.0 20080305 (alpha-testing) mingw-20080502 (GCC)

参考までに。

OpenMPを使って一次元配列から最大値、最小値を求める方法を教えてください。

reductionにminやmaxは無いんだよな。
俺はスレッド数を取得して解決した気がする。
大雑把に書くとこんな感じ。

int n_thread = omp_get_num_threads();
int imin = INT_MAX;

#pragma omp parallel for shared(imin, array)
for ( int j = 0; j < n_thread; ++j ) {
int imin_ = INT_MAX;
int offset = size/n_thread*j;
for ( int i = offset; i < offset+size/n_thread; ++i ) {
imin_ = min(imin_, array[i]);
}
#pragma omp critical
{
imin = min(imin, imin_);
}
}

俺が　mingw用　gcc4.3.2をビルドしたときのコマンド　configureとmakeの行は実際は1行
------------- configure_gcc.sh -----------------
#!/bin/sh

export LC_ALL=C

../source/gcc-4.3.2/configure --prefix=/mingw --host=mingw32 --build=mingw32
--target=mingw32 --program-prefix="" --with-as=/mingw/bin/as.exe
--with-ld=/mingw/bin/ld.exe --with-libiconv-prefix=/mingw --with-gcc
--enable-libgomp --with-arch=i686 --with-tune=generic --with-gnu-ld
--with-gnu-as --enable-threads=win32 --disable-nls
--enable-languages=c,c++,objc,obj-c++,fortran --disable-win32-registry
--disable-shared --with-dwarf2 --disable-sjlj-exceptions
--enable-cxx-flags='-fno-function-sections -fno-data-sections'
--enable-version-specific-runtime-libs --enable-hash-synchronization
--enable-libstdcxx-debug --disable-bootstrap --with-bugurl=http://www.mingw.org/bugs.shtml
---------------------------------------------

------------- make_gcc.sh ---------------------
#!/bin/sh

export LC_ALL=C

make BOOTCFLAGS="-O2 -D__USE_MINGW_ACCESS" CFLAGS="-O2 -D__USE_MINGW_ACCESS"
CXXFLAGS="-O2 -mthreads" LDFLAGS="-s -Wl,--stack=0x2000000" 2>err.log
----------------------------------------------

>>157
> reductionにminやmaxは無いんだよな
あれ、あったと思うけど・・・。
reduction(min:unko)
とか。Fortran でしか使ったこと無いけど。
でもどのアドレスでminだったか、とかを取得したいときは
結局 shared にしちゃうんだけどね。

C/C++だとmin/maxは演算子どころかビルトイン関数ですらないから無理だと思う。

>>160
そうなんだ。Cはバイナリをどうしても読みたいときにいやいや
使う程度だから知らなかったよ。
でもFortranでもmin,max関数はあまり使われないんだけどね。
１５６のがFortranでよかったら、

unkomin = 1.0e+10
unkomax =-1.0e+10
!$omp paralell do private(i,a) shared(unko)
!$omp& reduction(min:unkomin) reductionmax:unkomax) shared(unko)
do i = 1, 100
a = unko(i)
if (a .LT. unkomin) unkomin = a
if (a .GT. unkomax) unkomax = a
enddo
!$omp end parallel do
write(*,*) unkomin,unkomax

みたいな感じでいけると思うよ。いまコンパイラ使えないからチェックできないけど。
非OpenMPでコンパイルしてもちゃんと動く・・・はず。

reductionmax は reduction(max ね。

２次元配列変数は、reductionで使えないんでしたっけ？

NG。
ifortは出来た気がする。

#pragma omp for
#pragma omp parallel for

てなにが違うの？

#pragma omp for は #pragma omp parallel ブロックの中に書く必要があるが、
parallelブロックにforブロックが１つのことも多いので
#pragma omp parallel for でまとめて書けるようにしてある。

なるほど。

>>143　>>68
スレチな質問で申し訳ないのだけどdllをリンクする設定を
教えて頂けないでしょうか
>>119を参考に
WindowsVista+Visual Studio2005 standardで
Microsoft Windows Software Development Kit for Windows Vistaと
vcredist_x86.exeでReleaseのビルドは通るようになった

で>>68を参考に
インストーラーを作ってみたのですが
C\ProgramFiles\Microsoft Visual Studio 8\VC\redistに入ってしまい
winsxsには入ってくれません…

並列化前後で答えが変わってしまいます。どこがおかしいのでしょうか？

//画像上でランダムで数点選んできた線との距離が最少になる座標を算出
#ifdef _OPENMP
#pragma omp parallel for private(data,x,y,a,b,i,error)
#endif
for(j=0;j<KURIKAWSIKAISUU;j++){
better_error[j] = 1000;//距離初期化
for(y=100;y<=HEIGHT-100;y++){
for(x=100;x<=WIDTH-100;x++){
error = 0;
get_randum_number(data); //ランダムでデータNo.を選択

for(i=0;i<ITIDONIERAZUKAZU;i++){
error += abs(y - a[data[i]]*x - b[data[i]]) / sqrt(1+pow(a[data[i]],2));
}
error /= select;
if(better_error[j] > error){
better_error[j] = error;
ans[j].x = x;
ans[j].y = y;
}
}
}
}

よくわかんねけど
get_randum_number
で配列dataにはいる乱数が変わるからじゃね？
たぶん呼ばれる順番が並列と１CPUのときで違うだろうから。

ループ内で乱数つくらないで、でかい乱数用の２次元配列
data0[KURIKAWSIKAISUU][ITIDONIERAZUKAZU]
をループが始まる前に「並列処理しないで」作ってから
(配列data0をshared属性付けて)ループ処理するといいかも。
計算は遅くなりそうだけどね。

んでループ内で乱数生成してた部分は
for (i=.....){data[i]=data0[j][i];}
と乱数値の複製に置き換える、と。

>170
>171
ありがとうございます。
いただいた意見を参考に修正し、できたらご報告します。

マルチスレッドでrand()使うと全然ランダムじゃないデータが出てくるよ

rand_r

gcc-4.3 で OMP を使い始めました。初心者で正しい使いかたをしている
かどうか判然としません。/proc/cpuinfo で cpufamily 6, model
23 (Harpertown と呼ぶらしい)と表示されるXEONでは確かに速くなるので
すが、cpufamily 15 model 4 (Nocona と呼ぶらしい) では非常に遅くな
ります。これは正しい振る舞いでしょうか。時間は
clock()/CLOCKS_PER_SEC; で測っていますが、これで正しい判断ができる
のでしょうか? 並列化すれば速くなる速度のネックになっている部分を
探す方法はあるのでしょうか? 並列化できるかどうか判然としない部分
を並列化可能なコードに書き直してくれるようなソフトはないでしょうか?

どうせNoconaの方はデュアルCPU構成じゃなくてしかもHT無効というオチだろ。

Nocona の /proc/cpuinfo は
processor : 0
..
processor : 3
vendor_id : GenuineIntel
cpu family : 15
model : 4
model name : Intel(R) Xeon(TM) CPU 3.80GHz
stepping : 3
flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca
cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx
lm constant_tsc pebs bts nopl pni monitor ds_cpl est tm2 cid cx16 xtpr

となっています

環境変数 OMP_NUM_THREADS などでスレッド数を指定してますよね。
明示的に指定しないと環境によってスレッド数が1になったりコア数になったりします。

きちんと並列実行できているのに 4-way Nocona で並列性能が出ないとすると
応用依存の問題かと。例えばメモリ帯域幅がネックになっているのかも知れません
（Harpertown ではメモリ帯域幅が足りていて Nocona では足りていないとか）。
どういう計算をしているのかを書くともっと直接的なアドバイスが得られるかもです。

計時の仕方はそれでいいと思います。精度が気になるなら RDTSC について調べると良さげ。

速度のネックになっている部分は、皆目見当がつかないならプロファイラが利用できます。
GCC なら -pg オプション付きでコンパイル、プログラム実行後に gprof コマンドを使って
統計情報を得ます。

時間のかかっている部分が分かったとしてそれを並列化して高速化できるかは別問題。
OpenMP はループを分割して並列化するのがお手軽で効果的ですが、
それができるのはループ間にデータの依存関係がない場合です。
a[i] += a[i-1] のように前後の反復の計算結果を利用したり、
配列の同じ要素に書き込むといった処理がデータ依存性の典型例です。
データ依存関係がある場合はコードを書き換えないと普通は並列化できません。
このあたりは並列プログラミングの普遍的な課題で、対策はケースバイケースです。

自動並列化は研究レベルではよく聞きますが実用的なツールは寡聞にして知りません。
よい自動並列化ツールがあれば私も試してみたいです。

Intel C++ Compiler 11.0の自動並列化オプション(-parallel)でSPEC CPU 2006のいくつかのベンチマークが高速化しているが
実際のコードでどれだけ役に立つかは使ったことが無いのでわからない

OpenMPの効果を調べるため、同じコードを、gfprtranで二通りにコンパイルして実行してみました。
全然速くなりません。むしろ遅くなっています。実行方法やコードが間違っているのでしょうか？
gcc version 4.3.2 (Debian 4.3.2-1.1)

$ gfortran -fopenmp test.o -o test_omp.out
$ time ./test_omp.out
real 9m14.642s
user 3m51.902s
sys 4m22.468s

$ gfortran test.o -o test.out
$ time ./test.out
real 1m15.142s
user 1m14.809s
sys 0m0.340s

CPUは...(/proc/cpuinfoの抜粋)
model name : Intel(R) Pentium(R) D CPU 2.80GHz
cpu MHz : 2793.101
cache size : 1024 KB
cpu cores : 2

ソースコードは
module ompParam
use omp_lib
implicit none
!integer :: OMP_GET_NUM_THREADS
!integer :: OMP_GET_THREAD_NUM
integer :: myid ! thread ID
end module ompParam

program variation !(coeff, NUM)
!$ use ompParam
implicit none
integer :: i, j, k
integer :: maxI=1000, maxJ=100, maxK=1000
integer :: NUM
double precision, allocatable :: coeff(:,:)
double precision :: alpha ! random number

NUM=1000
allocate( coeff(NUM, maxK) )
coeff(:,:) = 0.0d0

（続き）
!$omp parallel num_threads(2) private(myid, i, j, k, alpha)
!$ !myid = OMP_GET_THREAD_NUM()
!$ !write(*,*) '(Number of threads in front of do)=', myid

open(unit=100, file='data.bin', form='unformatted', status='unknown')

!$OMP DO
do k = 1, maxK
do j = 1, NUM
do i = 1, maxI
call RANDOM_NUMBER( alpha )
coeff(j,k) = coeff(j,k) + alpha

!$ !myid = OMP_GET_THREAD_NUM()
!$ !write(*,'(3(A4,I3),A37,I2)') 'k=', k, 'j=',j, 'i=', i, 'Number of threads at the end of do:', myid
end do
coeff(j,k) = coeff(j,k) / maxI
write(100) coeff(j,k)
end do
end do

!$omp master
!$ !myid = OMP_GET_THREAD_NUM()
!$ !write(*,*) '(Number of threads after the do)=', myid
!$omp end master
!$omp end parallel
end program variation

gfortranは良くしらんけど・・
環境変数で使うＣＰＵの数を指定してみて。
setenv OMP_THREAD_NUM 2
とか。プログラム内で明示しているからいらない気もするけど、まあ
正確にはマニュアルで確認してね。

あとは、I/O(read,write文)はparallel文の外で
するのが吉。この例だと、open(100,....) と write(100)....は
!$omp end parallel
の後でする。ふつうI/OはプライマリのCPUが単独で担当させる方が安全。
同じファイルに複数のプロセスが書き込みしようとすると
順序の保証が無くなるのであとで使いにくいし、書き込みの順番待ちが
発生するのでのろくなる。

乱数代入のループだけなら1/2になっている可能性大。そうなら
作ったコードは一応OpenMPとして動作している・・・と思う。

>>183
ありがとうございます。実行シェルは作らず、そのまま
$time ./test_omp.out
という風にやっていました。これから実行シェルを作って見ようと思います。

あと、i/oを外に書いたら、確かに一割ほど速くなりました。
でも、それでも圧倒的にOpenMPは遅いです...

乱数を使わないプログラムだとOKでした！！

~/test$ /bin/csh ./testOMP_exec.sh
Normal version executing...
2.2u 0.0s 0:02.20 100.4% 0+0k 0+1584io 0pf+0w

OpenMP version executing...
2.1u 0.0s 0:01.14 190.3% 0+0k 0+1584io 0pf+0w


資源使用率190%！！乱数発生器がパラレルに対応していなかったようです。
アドバイス、ありがとうございました。

あ、そっか
乱数生成って種を使いまわすから、並列のときは最初に疑うべきだったね。
あまり役に立たなかったっぽいけど、
とりあえず、おめでとう。

基本的な質問です。
#pragma omp for
でループを分割してもompを使わないときと差が出ないのですが
もしかしてループの外の資源にアクセスするとき、各スレッドは
排他制御してるってことなんでしょうか。

SSEとかで要素に演算を加えてるだけなんですけど・・・

外から渡された配列とか、mallocしたメモリとか、分割して処理
したいんですが、どこをどういじると改善されるのでしょう？

>>187
確認だけど #pragma omp for を parallel リージョンで囲んでる？
もし囲んでないなら #pragma omp parallel for としないと並列化されないよ。

>>188
はい、それはやってます。
中でスレッド数を確認するときちんとコア数分表示されます。

>>187
外からのメモリは問題ないと思うけど。
ループ間の依存関係がないか、I/Oなど想定外の依存関係がないか、要チェックで。

OpenMPで並列化することをやってみたのですが、
GCCの方がICCよりも圧倒的に速いのですが、こんなことはよくあるのですか？
ちなみにOptionは

GCC(4.3.2)：　-O3 -fopenmp -funroll-loops
ICC(11.0.0)：　-O3 -openmp -openmp -openmp-lib compat

コードはこんな感じのがいくつもあります。
GCCでうひょ早っ！と思ったので、ICCならもっとと思ったのですが、
そうならないのがびっくりです。何かいけないことはありそうでしょうか？
一応どちらも並列化はされており、CPU使用率はほぼ１００％になっています。

void func(void){
7 int i,j,k;
8 unsigned char index_x;
9 #pragma omp parallel for private(i,j,k,index_x)
10 for(i=0;i<XS-1;i++){
11 for(j=1;j<YS-1;j++){
12 for(k=1;k<ZS-1;k++){
13
14 index_x = IDX[i][j][k];
15
16 AX[i][j][k] = CX[index_x]*AX[i][j][k]
17 + CLY[index_x]*(BZ[i][j][k]-BZ[i][j-1][k])
18 - CLZ[index_x]*(BY[i][j][k]-BY[i][j][k-1]);
19 }
20 }
21 }
22 }

>>191
ちなみにCorei７　９６５での話です。

>>191
＞何かいけないことはありそうでしょうか？
・オプション指定辺り。
・時間の計測方法。

見たところ、gccにはunrollのヒントを与えているのにiccには与えていないように見える。
icc11が標準でunrollしたかどうか、記憶していないが影響があるかも知らん。
それと、gccでもiccでも言えることだがソース全部を見ないことには細かいことは判らん。
例えば、icc -fastでOpenMPを使わない場合の所要時間を測ってみてはどうだろう。

いずれにしても、iccスレ向きのネタになりそうだが。

shared属性になる変数を大局変数で指定してるよね？念のため。

ifortだと-O2以上でunrollingはするけどiccだとどうなんだろう。

ICCなら-QaxSSE4.2くらいは最低限だろう。

-ax??? /Qax???
ってかえって遅くなること無い？
コードにもよるだろうけど自分のはかえって遅くなるから切ってる

結局いろいろなオプションを試してみましたが、 iccはgccには歯が立ちませんでした。
iccは結構高いので、かなりガッカリしてます。orz...

たしかにlibgompは優秀
SIMD化されてないように思えるのだが

kをOMPによる並列化対象から外して-QxSSE4.2とかってのはどう？
たしかSIMD化とスレッド化は両立できなかったような

icc の -openmp-lib compat って必須だったけ？

追加。
１９１の例だとcx,cly,clzの要素を参照するときに干渉が起こってそう。
たぶん一次元でそんなに大きくない配列だろうから、添字iとjのループの間で
この３変数をコピーしてみてはどうだろうか？
localcx[n]=cx[n]...みたいな。んでlocalcx, localcly...はprivate属性を付ける。
並列で無い場合には余計な動作だからかえって遅くなりそうだが。
gccはそこをうまくさばいているのかもしれないな。
>>198
お団子ありがとうw
おそらく添字kのループはunrollingの対象になるから、
そのままprivateな並列対象のままで良い気もするけどどうだろう？

さらに追加。cx, cly, clz については
CLY[index_x]=CLY[(IDX[i][j][k])]なんだから、
CLY[i][j][k] で表現できると思うんだけど。
暴力的ないい方だけど今ってメモリが青天井に近いから
係数の3次元配列つくってもいいんじゃないかな？

いずれにしてもコードいじるからなあ・・・。gccで幸せならそのまま、という手も。

そうか

フリーソフトウェア最高や！
ぷろぷらICCなんか最初からいらんかったんや！

OpenMPはいざ知らず、普通のプログラムでiccは随分賢いコードを吐くよ。
後はあれだ、MKLのOpenMP対応は生半可じゃなくリニアリティが高い(投入コア数とパフォーマンスがよく比例する)。

ifortで使ってるけど、16CPUくらいまでならいいよね。
経験的には32個過ぎるあたりからだんだん悪くなる(64CPUでだいたい48CPU相当)けどまあしょうがないか。
それ以上を厳しく要求される計算だとたぶんMPIと自前のソルバの組み合わせになってしまうのかも
しれないけど、まあ普段の用途には16か32倍も出れば御の字だろう。

OpenMPで16スレッドも使えるようなCPUなんて持ってるのか。羨ましい。
汎用だと4が限界だし

PCサーバなら、4core*2CPUはざらだと思うが。
# さすがに16とか32は見たことがない……

cell

あまり使われていない altix の箪笥が使えるのです。
ふだんは 4core x 2 ですね。Xeon ８コアで、ちと古いItanium１６個相当のパフォーマンスは出るので。

>>201

>>191です。

CLY[index_x]=CLY[(IDX[i][j][k])]はCLYのサイズが小さいため、
2ndキャッシュにキャッシュさせる目的で使っています。

> いずれにしてもコードいじるからなあ・・・。gccで幸せならそのまま、という手も。

これでコードをいじって30%くらい速くなるならやる価値はありそうですが、
おそらくそこまで行くような感じではないように思われます。
あと、GCCでもバージョンによって速さが違いますし、OSが32bitや64bitでも違いました。
「このコンパイラを使えばどの環境でも速くなる！」と言うのはないですかね。

ハンドアセンブル

>>210
VTuneは使っている? そのくらいシビアな話なら動的解析してみると何か分かるかもよ。

VC++2008のStdしか持ってないが
C:\Program Files\Microsoft Visual Studio 9.0\VC\redist\Debug_NonRedist\x86\Microsoft.VC90.DebugOpenMP\vcomp90d.dll
というファイルが入ってる。これ使えるの？

>>210
非構造格子の格子形状の情報が格納されてるのかな？
それだとidx配列で引くのが不利より有理な点が多そうだね。
だったら２００みたいにループの始めでクローン作ったほうがいいかも。
コードもそんなにいじらないだろうし。
>>213
ディレクトリは忘れたけど、その名前のダイナミックリンクライブラリは
使った記憶がある。どういう使いかただったかは忘れた・・・。

ちょっと興味があるのだが
OpenMPってこれから並列プログラミングのスタンダードになっていくのかね
MPI+OpenMPのクラスタなんてなかなかだな、環境とプログラムの内容によっちゃあ

MPI使ったコードを既に持ってるなら、OpenMPはあまりいらないかもな。
OpenMP相当の事は自動並列かなりできるようだしMPI主体が大〜中規模計算の主流で、
マルチ・コアCPUが１〜２個くらいのシステムでお手軽並列が
これからのOpenMPの使いかたになるのではと勝手に予想するw

というかsgiが飛んだり、SUNがソフト屋に買収されたりNECが断念したりで今後のトレンドが読めんね。

以下の2つのファイルをexeと同じフォルダに入れると使えました。
デバッグビルドでもOpenMPを使えるようです。

C:\Program Files\Microsoft Visual Studio 9.0\VC\redist\Debug_NonRedist\x86\Microsoft.VC90.DebugOpenMP\vcomp90d.dll
C:\Program Files\Microsoft Visual Studio 9.0\VC\redist\Debug_NonRedist\x86\Microsoft.VC90.DebugOpenMP\Microsoft.VC90.DebugOpenMP.manifest

PriusOnlineでOpenMP/VC8つかってるっぽい
どうしようクアッドコアにしようか

VC++2010にParallel Pattern Library(PPL)というマルチスレッドライブラリが
追加されるみたいだけどOpenMPとの住み分けはどうなるんだろう。

いままでintel fortran 9.1使っていた。お試しで11入れてみた。
オプションはシェフお薦めの
ifort -fast -openmp
だけ。だいたい３０％くらい速いようだ。コードにもよるだろうけど、いいね。
というか今までのはなんだったんだw

関係ないけどversion 8は挙動が変だ。なんじゃありゃ。

あ、OSはlinux(版はよくわからんw)ね

OpenMP3.0使った人いる？

OpenMPを使ったループの中でrandを使うと、srandでseedを設定しても、毎回結果が変わってしまいます。
同じ結果を得るようにするにはどうしたらよいでしょうか？

>>223
スレッドセーフな擬似乱数生成器を使う。

スレッドセーフなだけじゃ駄目でしょ

>>225
kwsk

実装にもよるんだろうけど、スレッド毎にシードを持つイメージになるんだっけ？

それ以前の問題で、ループの実行順が一定でないと、同じ乱数列は得られないでしょ。
ループで使う分の乱数を先にテーブルにでも入れておいたら？

>>228
OpenMPの意味ないじゃん

スレッドセーフとスレッドセーフじゃないの具体的な例を教えて

>>223

>>231
>>223の原因はそれだけじゃないとおもうYO

スレッドが絡んで意図したとおりに動かないのがスレッドセーフでない状態

例えばsin関数は引数のみによって決まるので、スレッドセーフ。
一方、randは内部の状態を保存する変数に各スレッドからどの順序でアクセスされるかによって
結果が変わってくるので、スレッドアウト。

スレッド・・・アウト・・・？？

きっとスレッドストライク、スレッドボーク、スレッドチェンジなどもあるに違いない。

!$omp thread out

OpenMPとMPIで同じプログラムを書いたら、MPIの方が速かったんですが、どいういうこと？？
使っているのは、omp parallel forだけです。

分散メモリじゃOpenMPはロクに働かないから共有メモリand/orマルチコアだろうけど、
ごくごく一般的に・・・
CPU/Core数が増えるとMPIが早い。OpenMPは効率が頭打ちする。なのでまあ当然ともいえる。
FirstTouchポリシー採用のシステムでは初期化ループで大まかな役割分担を教えてあげないとOpenMPはのろい。
OpenMPで一個でもShareかPrivateかを間違えるor書き忘れると途端に遅くなること有。
一次元配列の分割計算の場合、OpenMPだとUnrollingを抑制するコンパイラも多いのでそうなると結構遅くなる。
・・・などなど。
まあ、OpenMPはお手軽だから中規模な計算がメインな自分は頻繁に使うけど、
カリカリにチューンしたいとか大規模計算になるとMPIのほうが良いよ。

スレッドの生成の方が、MPIのプロセス間通信より軽いと思っていたのだけど

iclを使っているんだけど、forの中で初期化したい場合はどうすればいいのかな。

実際はもっともっと複雑なんだけど、イメージ的には下のような感じで
ループの外で共有のtlbを作ってからメインループでtlbを使いたいんだ。
しかし、parallel forの中ではbarrierやsingleが使用出来ない。

かといってtlbのサイズとかループ回数の兼ね合いから、
parallel forをメインループに持っていったりtlbを全スレッド分作るというのは出来れば避けたい。

#pragma omp parallel for
for (int j=0; j<m; ++j)
{
#pragma barrier
#pragma omp single
for (int i=0; i<q; ++i)
{ tlb[i] = foo(i, j); }

#pragma barrier
for (int i=0; i<n; ++i)
{ /* メインの処理 */ }
}

ミスった。barrierの前にompを付けて読んで下さい。

あとparallel forの中でbarrierやsingleが使用出来ないというのは
コンパイラがハネるという意味です。
OpenMPの仕様を読んでも使えないように読めます。

>>241
変数 tlb をスレッド間で共有しているのが問題なので、
a) tlb の定義を外側ループの中に移すか、
b) tlb の定義を tlb[スレッド数][q] に変えてスレッドごとに違う tlb[スレッド番号][i] を使う。

>>243
最初に書いた通り、無論その解決策は理解している上で
tlbのサイズと生成コストの理由から出来れば共有したい、
というのが今回の質問なのですが、OpenMPでは簡単には解決出来ないのでしょうか。

なんでbarrierがforの中で使えないんだろう。

jのループをparallel forで並行動作させると
たとえばj=0とj=1が同時に存在するよね
にも拘らずtlbを複数用意したくないというのは
tlb[i] = foo(i,0), tlb[i] = foo(i,1)
俺にはついていけない世界だ…

>>245
ああそうか!
なんて凡ミス、ありがとうございました。

>>238
なんか変数を各スレッドで共有しているんじゃない？
OpenMPも結構考えないとパフォーマンスは伸びないし、
CPUの利用率も高くなってしまう。
同一マシン上でMPIよりも遅くなるのは考えにくいなあ。
ただ、MPIだと明示的にスレッドを分割しているのに対して、
OpenMPはコンパイラ依存だからね。そういったこともあり得るかも。

fork-joinのコストがでかい
OpenMPを有効にするとコンパイラ最適化がきかなくなる（・・・というコンパイラが多い）

遅くなる原因はこれかな？？？
http://olab.is.s.u-tokyo.ac.jp/~reiji/openmp.html

for(i=0;i<N;i++) {
for(j=0;j<N;j++) {
for(k=2;k<N&&i+k<=N&&j+k<=N;k+=2) {
for(n=1;n<=3;n++) {
ごにょ
if(addHash()) {
if((p=getPoint()) == N) goto End;
ごにょ
}
}
ごにょ
}
}
}
}
}
４重ループの中にgoto分使っているけど、こういう場合はどうすればいいの？

>>250
gotoを取り除く

んだ。gotoあると並列処理されにくいよ。
並列化してると、途中で終了するのも最後までやるのも計算コストはかわらんし。
マスクの部分は
if((p=getPoint()) /= N){ごにょ} か if((p=getPoint()) < N){ごにょ}
にする・・・とかかな。

岡田外務大臣ｷﾀ━━━━━━(ﾟ∀ﾟ)━━━━━━ !!!!!
h‍ttp‍:‍/‍/‍q‍b5.2‍ch.net/t‍est/rea‍d.cgi‍/sak‍u2ch/1256‍630318/1



早く記念カキコしないと埋まっちゃうｗｗｗ

OpenMPでスレッド間の1対1通信ってどうやんの

>>250 >>251
返事遅れてごめん。ありがとう。

>>252
なるほど。ありがとう。

FortranをOpenMPで並列化したのですが、シリアルで実行した場合と結果が変わってしまって困っています。
たぶん共有変数の設定を間違って、書き込んではいけない変数に書き込みが発生してしまったのだと思うのですが、
どう直したらいいのかわかりません。
分かることがあれば教えて下さい。

[並列化したソースコード]http://gaatsu.ps.land.to/up/src/up_1444.png.html
[シリアルで実行した結果]http://gaatsu.ps.land.to/up/src/up_1445.png.html
[パラレルで実行した結果]http://gaatsu.ps.land.to/up/src/up_1446.png.html
z軸のプロットは、ソース中のloss_timeを描いています。
サブルーチンsubの中身は、関係する部分だけ書くと、以下のようになっています。
do i = 1, nend
　 t=t+dt
　 if (条件)
　 　 loss_time = t
　 　 return
　 end if
end do

すみません、最後の方で書いた内容、一部間違えました。

サブルーチンsubの中身は、関係する部分だけ書くと、以下のようになっています。
do i = 1, nend
　 t=t+dt
　 if (条件)
　 　 loss_time = t
　 　 return
　 end if
loss_time = t
end do

多分原因はそこじゃないと思うけれど、共有変数の指定が間違っていると思うなら
privateもsharedも消してdefault(private)にしてみたらいいと思う。

あと基本的な質問だけど
「!$OMP parallel do」ではなくて
「!$OMP parallel」と「!$OMP do」
に分かれている必要性ってあるの?

parallelとdoを分ける文法を普段使わないから挙動が分からないんだけれど、
iのループが分担されずに-(maxGrid-1)から(maxGrid-1)のまま8つ生成されて、
jのループが分担されているのに1つのloss_timeを共有してそうな気がするんだけれど。

原因はそこじゃないな、おそらくアソコ。

お返事ありがとうございます！

default(private)ではコンパイルは通っても、計算は動きませんでした。
（逐次領域→parallel領域で値が引き継がれないことが原因？）
なので、全ての変数をfirstprivateでやってみましたが、やはり間違った結果になりました。
!$OMP parallel doでiのループを並列化しても同じでした。


サブルーチンsubは、iやjによって計算時間が最大10000倍程度違うので、
iを分担すると負荷のバランスが偏るのでは？と思ったのでjを分担するようにしました。

>jのループが分担されているのに1つのloss_timeを共有してそうな
!$OMP parallel
の時点でメモリがスレッド数ぶん確保されるのではないんですか？

そういや、default(shared) をいったんprivateに変えてしまうと
同じ階層のメイン・副プログラム内でそれ以降全部のdefaultが変わるので面倒くさくなるんだよねぇ。

>>261
> !$OMP parallel
> の時点でメモリがスレッド数ぶん確保されるのではないんですか？
そうだけど「!$OMP parallel」の時点で「do i」が「iの範囲が同じで」8つ生成される。まずこれが無駄でしょ？
次にloss_timeも8つ確保されているけれど、8つのスレッドでiが同じ動きをしているので「$OMP do」のjでの挙動がわかりにくい。

do jでloss_timeが共有されると言ったのは勘違いかもしれないが、よく分からないので時間があったら試してみる。

> !$OMP parallel doでiのループを並列化しても同じでした。
<中略>
> iを分担すると負荷のバランスが偏るのでは？と思ったのでjを分担するようにしました。
jを分担したいのだから、「!$OMP parallel do」を「do j」に設置する必要があると思うんだ。

OpenMP自身は共有メモリで使われる事を仮定してるから・・・
!$OMP parallel
にさしかかった時点ではメモリはいじらないとおもうよ。
全スレッドの同期確認作業(結構時間ペナルティがきつい)をするので
減らせるなら積極的に parallel 文を減らすようにするのがいい、と推奨されてるだけ。

VisualStudio2008でなんだけど、
#pragma omp parallel for でfor文の中にbreakあるとダメだった気がしたんだけど、
WindowsSDK7.0入れてから久々に使ってみたらbreak入っててもコンパイルエラーにはならなかった。
もともと大丈夫だったっけ?

ダメとは聞かないけどな。intel の Fortran だと文句はいわれないと記憶。
でも、どのシステム＆実装でも受け入れてもらえるように
break の条件を満たす場所を見つけたらそこでbreakするのではなく
フラグを立ててそのあとの for loop は制御の整数をインクリするだけで
担当の範囲は回すようにするといいのかも。

#pragma いろいろその０
for (i=0;i<imax;i++){
int ibreak=0;
if (ibreak == 0){
いろいろその１;
if (なんか条件) {ibreak = 1;}
いろいろその２;
} // end-if-ibreak
} // end-for-i

とか。

あ、これじゃダメだw
int ibreak=0;
は外にだしてね。

下記の様にOpenMPでタスク並列化を行う場合に、
スレッド数を動的に変化させたい場合はどのようにやるのでしょうか？

#include <omp.h>
int main(){
#pragma omp parallel sections
{
#pragma omp section
{
処理1
}
#pragma omp section
{
処理2
}
:
:
#pragma omp section
{
処理N
}
}
}

CPUがHTかどうかによって並列数を変えたいのですが、物理的なコアの数を取得する方法はありませんか？

>>269
/proc/cpuinfo辺り見てなんとかならない?

Linuxなら
int cpu_num = sysconf(_SC_NPROCESSORS_CONF)
Windowsなら
SYSTEM_INFO sysinfo;
GetSystemInfo(&sysinfo);
で、sisinfoのdwNumberOfProcessorsメンバの中にはいっている。
ちなみにintな。

Winだと NUM_OF_CPU みたいな環境変数があった気がするけどちがったかな？

NUMBER_OF_PROCESSORS

それそれ、ありがと

CPUのコア数以上にスレッドの数を増やすと急激にパフォーマンスが落ちるのだけどなぜなのでしょうか？
Phenom II X4ですが、5スレッドにしたとたん、全スレッドのパフォーマンスが半分以下（2倍以上時間がかかる）
ようになります。OSはubuntu9.04です。

スレッド数＞コア数ってことはデスマーチ状態なので、
バタバタと戦友たちが倒れていってるんだろうな。

同時に二つのことをやるとき、一つのことだけをやるのと効率が変わらないとか、
どんな仕事でも 5 分割でパラレルになるように区分けできる
天才ってまれにいるけど、 >>275 はそういうタイプ。

>>275
コンテキスト切り替え（スイッチ）

>>275
８スレッドにすると４のときと同じくらいの時間で終わる・・・かも。

>>275
当たり前の話だ。各スレッドがリソースを取り合っているんだよ。
物理コアが4つしかないのに、5スレッドが走っているわけだから、
物理コアたちが「俺が行くぞ」「ふざけんな俺が行くんだ！」とか「おまえ行けよ、いやおまえが行けよ」
ということをやっているわけだ。
本来ならセマフォで4スレッドに制限すればよいんだけど、OpenMPではどういう風にやるっけな？
まだ対応していないと思ったけどもしOpenMPでやるなら結構トリッキーな実装になりそうだな。

４プロセスのとき、４つのコアがそれぞれ100％がんばる
５プロのとき、１つのコアが２スレッド分を負担して100％がんばってるけど
ほかの３つが50％しかがんばれない。
がんばらない、じゃなくてがんばれない。同期取るからね。
>>279 のとおり８にすると４コアみんな100％の力を出せるようになる。

>>279
>>281
8にしてみたけど、そんなことはなかった。
劇遅になった。

ちゃんとプロセスと計算コアを固定してる？
タダでさえ>>280 の理由で非効率な部分があるんだから・・
taskset dplace のどちらかだろう。なければこれに当たる奴みつけてね。
dplace 後者はSGIのだけの気がするけど自信はない。

プロセス、スレッド・・・OpenMPだとスレッドのほうがいいのかな？
あまり気にしてなかったので今気になった

スレッドの実行時間が短すぎるんじゃないか。
それでコンテキストスイッチの割合が大きくなりすぎているのでは。

#pragma omp parallel for
for

凄い長い計算

でやって味噌。

ちゃんとprivateも設定しろな。

Intel Cluster OpenMPのセットアップ方法ってどこにあるの？
とりあえずライセンスファイルのダウンロードして、それをインストールするところまではできたのだけど・・・
ネットワークとかホストとかはどこで設定するの？

ubuntu 10.04にしたらRunning Processの数がOpenMP Threadの数+1になるのだけど、どうして?
うちだけ?9.04の時はこんなことはありませんでした。

全体を総括するあまり忙しくないプロセスがあるから一個多いのが正常。

>>289
topコマンドで調べてみれば？
Ubuntuだとbackend
Fedoraだとnautilus
がプロセス1個占有してるようだよ

Fortranで !$omp parallel do private(...)
のprivate変数が多いので文字数制限に引っかかって改行しないといけないのですが、
括弧中で改行すると & や!$omp& で繋げてもうまく動きません。
どうやったらいいんでしょうか。PGIコンパイラです。

PGIは知らないがIntelのは

!$omp parallel &
! & do

とかで出来た気がする。
2行目の行頭が!か!$か!$omp かは忘れた。

c++でOpenMPを使う時に

#pragma omp parallel for 文の後の
forループ内でnew演算子使っても計算は保障されるの？

保障されない場合は回避方法はあるの？

保障されなきゃ話にならんだろ

>>294
ちょっと計算っていうのがわかりにくいが、
要はnewで確保した領域で計算した結果が保証されるのか？
っていう意味なのかな？だとすればyesだろうけど、
atomicを考えるとめんどくさいような気がするなあ。

回答どうも
コンパイルは通ったんだけど並列化されない
なぜ？

チェックし直して
うまく動いたら改めて書き込みします

コード晒さずに結果だけ書かれてもな

#pragma omp parallel for private(共用しない変数) num_threads(スレッド数)

まさかshare変数をnewしたの？

よってたかって new か・・・・恐いな。
というかどうなるんだろう？

この板では意味ないだろうけど・・・無意味にあげておく

このスレ過疎り過ぎ
GCC4.5.0 (MinGW) だとforループ中でbreakが使えないんだけど、解決する定石とかある？
とりあえずフラグ立てて解決したんだけどなにかいい方法があれば教えてくれ

// サンプル：指定された"TARGET"が見つかるまでのループ数を表示するプログラム
#include <stdio.h>
#include <omp.h>
#define FIN 100
#define TARGET 70

int main(){
int i, flag=0, cnt=0;
#pragma omp parallel for reduction(+:cnt)
for(i = 0;i < FIN;i++){
printf("%d: %d\n", omp_get_thread_num(), i);
cnt++;

if(flag){
printf("%d: break\n", omp_get_thread_num());
i+=FIN;
}

if(i == TARGET){
printf("%d: found and break\n", omp_get_thread_num());
flag = 1;
#pragma omp flush(flag)
i+=FIN;
}
}
printf("total %d loops\n",cnt);
return 0;
}

単純なループの場合は parallel for に頼らず自前で各スレッドのループ範囲を決めれば break できる。
フラグを使うのはスレッド間の同期に必要なので、break できたとしても無くせないと思われ。

#include <stdio.h>
#include <omp.h>
#define FIN 100
#define TARGET 70
int main(){
int i, found=0, cnt=0;
#pragma omp parallel reduction(+:cnt)
{
int t, n, is, ie;
t = omp_get_num_threads();
n = (FIN + t - 1) / t;
is = n * omp_get_thread_num();
ie = (is + n < FIN) ? is + n : FIN;
printf("%d: %d-%d\n", omp_get_thread_num(), is, ie);
for(i = is; !found && i < ie; i++){
printf("%d: %d\n", omp_get_thread_num(), i);
cnt++;
if (i == TARGET){
found = 1;
#pragma omp flush(found)
printf("%d: found\n", omp_get_thread_num());
}
}
printf("%d: %d loops\n", omp_get_thread_num(), cnt);
}
printf("total %d loops\n",cnt);
return 0;
}

>>304 早速のレスサンクス
そのやり方はスマートだしちゃんと規格に準拠してるね

正月最後の休みを使って公式にあるOpenMP Specifications v3.0を読んでみたんだけど
for指示文に関連付けられたforループは規格で(jp:p.44)
// for (init-expr; test-expr; incr-expr) structured-block
// structured block：C/C++では、先頭に入口が一つと末尾に出口が一つある実行文か複合文、あるいはOpenMP構文。
// 出口点は構造化ブロックからのの分岐であってはいけません。
となってるから元々breakは無理なんだな

さらにtest-exprは
// var relational-op b または b relational-op var
//var：符号付き、または符号なしの整数型の変数 or C++の場合、ランダムアクセスイテレータ型の変数 or Cの場合、ポインタ型の変数
//b：varの型と一致した型のループ不定式
となってるから
>>303の for(i = 0;i < FIN;i++){ を for(i = 0;!flag && i < FIN;i++){ にはできない
>>304ならparallelリージョンのなかのループだから&&が使えてスマートに書けるんだな

おかげさまで勉強になったよ

参考
[en]http://www.openmp.org/mp-documents/spec30.pdf
[jp]http://www.openmp.org/mp-documents/OpenMP30spec-ja.pdf

内部関数を別の関数に渡すコード断片があると(Intel Fortranの拡張)、
例えそれが実行されなくとも、性能がガタ落ちになるようだ。理由は不明だが。

LinuxでもしCPUに空きがあるなら、並列数をあげるようにしたいのですが、どのようにすればいいのでしょうか？

linuxでノンブロッキングなconnectって
connectよんでからselectで待つのが定石だと思ってたけど
connectが成功を返すまでsleepはさんでコールし続けるってコードを見かけた
これってありなの？

>>308
無し
あり得ない
レスポンスが遅くなるだけ
というか誤爆？

>>309
すまぬ、誤爆したうえ放置してた

omp_set_num_threadsってOpenMPのスレッド内で呼んでも有効にならないの?

>>311
スレッドを幾つ起動するかを、起動してから指定するの?

VC++2010でシングルスレッドのループが並列化したループの有無によって
速度変わってしまうのですが、原因分かりませんか?

ttp://ideone.com/Yn67n

>>313
環境が判らんからなんとも言えんが、シングルスレッドのループの裏でOpenMPか何かの処理が動いているとか?
ループ前後にsleep入れて様子見てみたらどうだろう。

clock()はCPU時間を取得するもの
なので、裏で走るスレッドの実行時間も加算される
実時間で計測する関数を使うようにしてみればいい

原因をやんわりとではありますが掴めた気がします。

ttp://ideone.com/6g1yy
上記のコードの様に、時間取得用変数にvolatileをつけると並列ループの有無に関わらず
シングルスレッドループの速度が一定となりました。

また、時間計測処理を省いて体感で測ってみましたが、
こちらでも速度が一定な感があります。
(体感の為誤差は確認出来てませんが)


この事から、時間取得とOpenMP有効時の最適化は相性が悪いのではないかと思います。
根本的な解決にはなってませんが、回避策は分かりました、有難うございました。

リロードしてませんでした・・・
>>315そうしてみます、有難うございます。

taskとsectionの使い分けって？

fortran90でプログラミングしてるのに、
「C/C++プログラマーのためのOpenMP並列プログラミング」を買ってしまったんだが、
大まかな部分ってCもfortranも同じなのかな？

その本を窓から投げ捨てて、「fortran90 OpenMP」でググって出たPDFを読んだ方が100倍マシだよ。

>>320
おっけ今から全力でぶん投げてくる

くれ。
いや、どうせなら
図書館にでも寄贈してやってくれ

OpenMPのスタティックなライブラリってないの？
VCだとMP使うと再頒布可能パッケージが必要だ。

ttp://codezine.jp/article/detail/4693

＞　先ほど構成をReleaseに変えてビルドした理由は、Debugでビルドして実行するには特別なファイルが
＞必要になるからです。OpenMPをデバッグ構成でビルドするには、
＞「Microsoft.VC90.DebugOpenMP.manifest」ファイルと「vcomp90d.dll」ファイル（VC2008の場合）が必要になります。
＞このファイルはVisual Studio 2008のStandardバージョン以上ならば
＞「C:\Program Files\Microsoft Visual Studio 9.0\VC\redist\Debug_NonRedist\x86\Microsoft.VC90.DebugOpenMP」
＞にありますので、実行ファイルと同じ場所にコピーして下さい。そうすれば、
＞Debug構成でも正常に実行できるようになります。

OpenMP対応を謳ってるくせに、なんでこんな面倒なことしないといけないんだろう･･･
プロパティで「OpenMP使う」ってするだけでできるようにしたらいいと思うんだけど。
（配布時は別途対応するにしても）

俺はフリーだろうとシェアウェアだろうと、
余計なモノをインストールさせるアプリは使わない。

Visual Studioなんて眼中に無さそうだね

>>324
その記事の筆者名でググって見たほうがよい

>>327
ググってみました。
色々言われているみたいですね（汗）
もしOpenMP環境構築についての言及が誤りなら、
もっと正攻的なやり方があるということですね。
もうちと調べてみます。

C+11のparallel_forだとキャプチャする変数を指定する文法があることから
外側の関数からラムダ関数に変数を渡すっていうオーバーヘッドが
ありそうだけど、#pragma omp parallel forだとそのへんどうなってるの?

C++やC99において、OpenMPループの中で、変数を宣言するのは安全なのでしょうか？
例えば、
int sum = 0;
#pragma omp parallel for reduction(+:sum)
for (int i = 0; i < 100; i++) {
int tmp = i;
tmp++;
sum += tmp;
}

この例では、OpenMP並列化されたループ内で変数iとtmpを宣言していますが、
試してみたところ問題はなさそうです。
iもtmpもスレッドプライベート変数になると思うのですが…。
何か問題があればご教示をお願いいたします。

問題ないよ！
Private 扱いの理解で無問題

>331
ありがとうございます。これで安心して宣言できます。
今まではわざわざループの外で宣言していたので…。

CreateThreadで作成したスレッド内でompを使うと
スレッドが終了してもゴミスレやメモリが残ってしまうようなのですが
これを解放する関数とかありませんか?

http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q1015017355
_beginthreadex

_beginthreadex に置き換えてみましたがだめでした。
ompはランタイム関数ではないらしい?

OpenMP3.2とか出てきているみたいだけど、
OpenMPのバリア同期は関数内部でも使えるようになったのかな？

Android の NDK で使える様にならんかなぁ。。

揚げ

質問なんですが、

do a=1,10
do b=1,50
call test1(a,b)
call test2(a,b)
call test3(a,b)
enddo
enddo

こんなプログラムを動かしたいんですけど
これをa=1,b=1の時はCPU1がtest1,2,3を動かして、
a=1,b=2の時はCPU2がtest1,2,3を動かして（ry・・・って感じに
プログラムしたいのですが、これはdoループをparallel doで挟むだけじゃダメですか？

>>339ですが
言語はfortranです

例の前に条件を言えよ

>>339
まあ、ふつうに
do a=1,10
を並列化して様子を見てみればいいんじゃね？
あるいは、
do i=1,10*50
a=(i-1)/50+1
b=mod(i-1,10)
,.,,,,,,,
enddo
として並列すべきループを一つにまとめて
dynamic な並列で処理するとか。
手元に本が無いので dynamic にするやり方がパッと出てこないが

と思ったら、b についての並列部分は
a に依存する可能性があるのか。
その場合は、2つのdo の間に
ディレクティブを入れるしかないな。

というか、まずは質問できるまで
いろいろ遊んでみるべし

privateって同じ変数でスレッドごとに違う数字を使えるってことだと思ってるんだけど、
これって配列をprivateに指定することってできますか？

できるよ

あ、あまり大きなサイズの配列を
private にすると、なんとか領域が
デフォを超えてエラーになるので、
何かの環境変数の値を変えないと
いけなかったハズ。
なんだっけ・・・heap だか stack だかいうヤツ。

>>346
stacksizeですか？ググったらそんな感じの出てきました！
ありがとうございます！

>>347
配列をprivateなんかにすんなよ。
ヒープに確保しておけ。
他のスレッドに触らせたくなければomp_set_lockとomp_unset_lockでアトミックしとけ。

通りすがりだけど、
omp_set_lock と omp_unset_lock
これの使い方がいまいちよくわかんないんだよね。

じゃ、使わなければいいじゃん。
判らんものを無理に使うことはないよ。

>>349
オブジェクトをキーにしたmonitorが分からなければそもそもマルチスレッドプログラミングが分かっていないってことだろ

>>349
単なるmutexじゃねーか。

いじめないでくれよぅ。
shared private reduction
だけで今まで何とかなってたんだよ・・

OpenMPの弊害か。
やっぱりある程度基礎が必要だな。
ちなみに、omp_set_lock/omp_unset_lock
は軽くて便利だぞ。

これからOpenMP扱う初心者なのですがいきなり躓きました
Win7でVC++2010Expressを使用して

#include "stdafx.h"
#include <stdio.h>

int _tmain(int argc, _TCHAR* argv[])
{
printf("OpenMP Spec %d\n",_OPENMP);
return 0;
}

を実行しようとすると、ファイル 'VCOMPD.lib' を開くことができません。と表示され失敗してしまいました
ググったら構成プロパティでOpenMPサポートを「はい」にし、vcomp90.dllをPATHの通ったディレクトリにコピーするこが必要のとのこと
OpenMPサポートは解決したのですが、PATHの通ったディレクトリにコピーしてないから、vcompd.libを開け〜とエラーが起きるのでしょうか？
ちなみにVSコマンドプロンプト(2010)でpathと入力したら多くのディレクトリが表示されどこに入れればいいのか分かりません・・・
どこのディレクトリにコピーすればいいのか教えてください

よく分かってないなら、絶対パスで指定すればいいんじゃね

>>356
上のほう読んでたら、vcomp90.dllを実行ファイルの場所にコピーと書いてあったので試してみます
それでもダメだったら、絶対パスで指定してみます。本当に初心者ですみません・・・

まずC++を10年勉強しろ

OpenMP以前にC#とか使ってみ

>>358
すみません、初歩的なJavaやC言語しか学んでなかったんです；；
でも菅原清文著のC/C++プログラマのためのOpenMPという本で、C言語でも扱えるということで始めてみました

>>359
はじめてのC#というサイトを見て頑張ってみます

ちなみに実行ファイルの場所（フォルダ）にコピーしてもエラーが起きてコンパイルできませんでした

エラーに出てるけどビルドに必要なのはVCOMPD.libであってvcomp90.dllじゃないんで

>>355
VS2010 (=verison 10.0) なのに、なんで vcomp90 (=version 9.0 : VS2008用) を
指定してたりするの?

あと、Debug用ライブラリ (vcompd.lib = Visual C++ OpneMP, debug) 使うなら、
VS2010 Pro (=有料版) が必要。

解決方法を4つ考えてみた:
(1) VS2010 Professional を買う
(2) VS2008 Express + Windows SDK 7.0 を使う
(3) Cygwin や MinGW をインストールして、付属のgcc/g++ を使う
(4) Linux や *BSD を使う (VMware/VirtualBoxでも併用すればよろし)

VC++のOpenMPはデバッグビルドだと_DEBUGをundefしてからomp.hをincludeしないといけないってのが昔あったが

VS2010 Pro 評価版を Virtual PC とかの捨て環境にインストールすれば vcompd.lib も入ってるけど、これコピーして使ったら逮捕されるかもしれないからやめたほうがいいね。

>>361-364
多数のレス本当にありがとうございます。
とりあえずVS2010Expressでは、OpenMPが使用できないということですね
>>362さんの（２）の方法で試してみます。あと>>364さんの提案だとできそうですが・・・やめたほうがいいですね

久しぶりの書き込みです
言われた通りVS2008＋SDK7.0でopenmpをコンパイラ実行することができました

できればサポ３．０以上を無償ソフトで使えればよかった・・・

メモリのローカリティって何?

なるべく近いアドレスのデータだけを

本屋にOpenMPの新しげな本が置いてあったんだけど
あれって買った方がいいと思う？

好きにすれば。

元IBMのゴルゴ13こと
青山(名前あってるかな？)先生の本がいいからなぁ。
どこかでpdf版もあったと思うけど。

初心者なら青山さんの冊子でしばらく事足りるとおもうし、
だいぶ経験積んでいるのなら、買っても言うのではないかと。

あと、外人さんが書いたものの日本語訳なら
いっそのとこ原書買う方がいいかも。
アマゾンか丸善に

ひょっとして並列できるところ全部並列化したら
かえって遅くなる？

そういうこともある。

TBBのスレってないんだね

http://gcc.gnu.org/onlinedocs/libstdc++/manual/parallel_mode.html

std::for_eachがOpenMP使えるみたいだけど
どんな使い方すればいいんんだろ

>>376
OpenMPがfor文を並列化することが多いものだから普通すぎる使い方だろ

イテレータの実装はスレッドセーフになってんのかね？

先週出た Visual Studio Express 2012 for Desktop で、
OpenMP が使えるかどうか試してみた。

WIN32 Release/Debug, x64 Release/Debug のすべてで、
omp_get_num_procs(), omp_get_num_threads() を使ったプログラムを
ビルドして実行できたよ。

VS 2010 ExpressはSDK入れても出来なかったのにな
2008はできていたのに

>>373
アムダールの法則

OpenMP有効で、Core i 3 530(2.93GHz)の環境で
23.66Gflops出た。理論値は23.44Gflopsだが・・
OpenMP簡単でスゲーな

結果が壊れてないか確認する必要はあるけどね

spec.org だっけ・・・わすれたｗけど
にSMP マシンのテストで
どういうコンパイルオプションを使ったか書いてあるので
それと同じでやってみるとなおいいかも。

ものにもよるけど、経験上は20CPU(コアか・・)くらいまでなら
コア数に比例して上がっていくよね。
大規模流体計算とかだとMPI とかになるだろうけど、
それでも、OpenMP はデュアルコアが一般になった今日では簡単でとても便利だ。

>>384
OpenMPがいいかMPIがいいかの違いは、
共有メモリがいいか分散メモリがいいかの違いだけ。
大規模問題は往々にしてメモリ帯域が足りなくなったり、ロックの問題が出てくるから、MPIが使われる。
それ以外はOpenMPのほうが有利。

あと、メモリに依存しないオンキャッシュで収まる問題なら、
MPI、OpenMPに限らずほぼコア数にスケールする。
しかし、OpenMPで20コアまでスケールするような問題は見たことがないな。

Opteron 24コアだと8コアくらいまでがリニアに速くなって
それ以上は足せば速くなるけど少しの違いだったな
メモリの帯域が問題だと思ってたけど

>>386
Opteronで6コア以上だったらNUMAだからメモリバインドをしっかりしないとスピードは上がらんよ。
Linuxならnumactlが必要。Windowsは残念ながらOS任せなので、スケールは難しい。

MPIだと一部だけパージ可能だからその点は楽

openmp を使って並列化したプログラムを intel fortran コンパイラでコンパイル（最適化は -O0）して４コア（Xeon 5150）のマシンで実行したところ、-openmpオプションの有無によってかかる時間が
有：実時間3m39s、ユーザーcpu時間14m22s
無：実時間2m53s、ユーザーcpu時間2m53s
のようになりました。
つまり openmp で４コアを使っているのに実時間は減っておらず、cpu 時間がコア数の数にだいたい比例して増えています。

まったく同じプログラムを別のマシン Core i5-3470S で同じバージョンの ifort で -openmp オプション付きでコンパイル・実行したところ、かかった実時間は （-optionmp 無しでの実時間）/コア数より少し大きい程度だったので、このマシンでは問題が無さそうです。

どういった原因が考えられますか？

>>389
memory-boundなプログラムなのでは？
Nehalem前後で並列性能が大きく変わるはず。

>>389
ロックのしかたがクソとか
プログラム依存の話なのか環境の話なのか切り分けるために
配列要素を合計するような単純なforループで試してみたらいいんじゃないのかな
CPU時間が増えているということは複数コアが使われているのは確かだと思うけど
普通はコア数に比例してCPU時間が増えてコア数に反比例して実時間が減るよね

処理を分割せずに同じ処理をマルチコアで実行してしまっている気がする

みなさんありがとうございます。
FGSL のプログラムを使って多数回のモンテカルロ積分をしていて上記のような問題が起きたのですが、private, shared などの指定がまずかったようです。
積分値が異常ではなかったので、答えは間違いないが Xeon では時間短縮できていないと誤解してしまいました。しかし積分値の分散は openmp ありのほうが小さいので、どうも何らかの異常があったようです。

モンテカルロ積分に関係する量をすべて private にし、乱数の種をスレッドごとに異なる値にすることによって、積分値の異常も計算時間の異常も解決したようです。
ありがとうございました。

critical (name)
のnameってグローバル？
あるライブラリで
#pragma omp critical(hoge)
があった場合、別のライブラリの
#pragma omp critical(hoge)
と衝突する？

>>394
Cの場合、グローバル変数とローカル変数の名前が被っている時はローカル変数の方が優先されるので、衝突は起こりません

何これ言語？

あ

い

を