OpenCV

【C++】OpenCVを使った動画処理の基本と最新手法

C++でOpenCVを用いる動画処理は、動画の読み込みや加工、書き出しがスムーズに実施できるので、手軽に映像処理ワークフローを構築できます。

リアルタイム処理や多彩なフィルタ・変換機能を備えているため、実務や研究の現場でも活用しやすい技術です。

動画の読み込みとフレーム取得

動画処理の最初のステップとして、cv::VideoCaptureクラスを使って動画ファイルやカメラから映像を取り込み、各フレームを取得する方法を紹介します。

ビデオキャプチャの初期設定

映像ファイルの読み込みやカメラ映像の取得には、cv::VideoCaptureを利用する方法が採用されます。

ファイルパスやデバイス番号を指定するだけで、簡単に映像ソースにアクセスできます。

VideoCaptureのオプション設定

cv::VideoCaptureのコンストラクタに引数を渡すと、動画ファイルやカメラを指定できます。

たとえば、ファイルから映像を取得する場合は、以下のようなサンプルコードが使えます。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <string>
// サンプルコード:動画ファイルの読み込みと確認
int main() {
    // 動画ファイルのパスを指定する
    std::string videoPath = "sample_video.mp4";
    // VideoCaptureオブジェクトを作成し、動画ファイルを開く
    cv::VideoCapture cap(videoPath);
    // 動画ファイルが正しくオープンできたか確認する
    if (!cap.isOpened()) {
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    // 動画情報の取得(例: フレーム幅、フレーム高さ、FPS)
    int frameWidth = static_cast<int>(cap.get(cv::CAP_PROP_FRAME_WIDTH));
    int frameHeight = static_cast<int>(cap.get(cv::CAP_PROP_FRAME_HEIGHT));
    double fps = cap.get(cv::CAP_PROP_FPS);
    std::cout << "フレームサイズ: " << frameWidth << "x" << frameHeight << ", FPS: " << fps << std::endl;
    // 取り込んだ情報を使ってループ処理を行う
    cv::Mat frame;
    while (true) {
        cap >> frame;
        if (frame.empty()) {
            break; // 最後まで読み込んだらループを終了する
        }
        cv::imshow("Video Frame", frame); // フレームの表示
        // キー入力をチェックして 'q' が押されたら終了する
        if (cv::waitKey(30) == 'q') {
            break;
        }
    }
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
フレームサイズ: 640x480, FPS: 30

上記サンプルは、動画ファイルからフレームを順次取り出してウィンドウに表示する例です。

必要に応じてパラメータ(例えば、解像度やFPS)を取得し、後続の処理に活用する場面で役立ちます。

フレーム抽出のタイミング管理

映像の読み込み速度と処理速度のバランスを調整するために、cv::waitKey()を用いて待機時間を設けます。

たとえば、実際のフレームレートに近い表示を目指すなら、動画のFPSに合わせた待機時間にする必要があります。

また、映像処理中に予期せぬフレーム落ちを防ぐため、ループ内でフレームが空になった場合のチェックを入れるなどの工夫が推奨されます。

フレームデータの前処理

取り込んだ各フレームは、サイズ変更やクロッピング、色空間の変換、フィルタ適用などの前処理を施すことが一般的です。

フレームサイズとクロッピング調整

映像の対象部分にフォーカスするために、フレームサイズの変更やクロッピング(切り出し)がよく行われます。

クロッピングを行う場合、cv::Rectを利用して領域を定義し、cv::Matの領域抽出機能を使います。

例として、映像の中央部分を切り出すサンプルコードは以下のようになります。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <string>
// サンプルコード:フレームの中央部をクロッピングする例
int main() {
    std::string videoPath = "sample_video.mp4";
    cv::VideoCapture cap(videoPath);
    if (!cap.isOpened()) {
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    cv::Mat frame, croppedFrame;
    while (true) {
        cap >> frame;
        if (frame.empty()) {
            break;
        }
        // フレームの中央部分を抽出する(例: 幅の50%、高さの50%を中央領域として抽出)
        int newWidth = frame.cols / 2;
        int newHeight = frame.rows / 2;
        int x = (frame.cols - newWidth) / 2;
        int y = (frame.rows - newHeight) / 2;
        cv::Rect roi(x, y, newWidth, newHeight);
        croppedFrame = frame(roi);
        cv::imshow("Cropped Frame", croppedFrame);
        if (cv::waitKey(30) == 'q') {
            break;
        }
    }
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
(ウィンドウに中央部分だけが表示されます)

この方法を用いると、映像の不要な部分を省略して、関心領域に焦点をあてることができます。

色空間変換とフィルタ適用

映像処理では、色情報が重要な役割を果たす場合が多いため、BGRなどの色空間からグレースケールやHSVへの変換が必要になることがあります。

また、ノイズ除去やエッジの強調といったフィルタ処理は、前処理の中でよく採用されます。

下記サンプルは、カラー画像をグレースケールに変換し、ガウシアンフィルタで平滑化する例です。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <string>
// サンプルコード:グレースケール変換とガウシアンフィルタ適用の例
int main() {
    std::string videoPath = "sample_video.mp4";
    cv::VideoCapture cap(videoPath);
    if (!cap.isOpened()) {
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    cv::Mat frame, grayFrame, smoothFrame;
    while (true) {
        cap >> frame;
        if (frame.empty()) {
            break;
        }
        // カラー画像をグレースケールに変換する
        cv::cvtColor(frame, grayFrame, cv::COLOR_BGR2GRAY);
        // ガウシアンフィルタを適用して画像を平滑化する(ノイズ低減)
        cv::GaussianBlur(grayFrame, smoothFrame, cv::Size(5, 5), 1.5);
        cv::imshow("Smooth Gray Frame", smoothFrame);
        if (cv::waitKey(30) == 'q') {
            break;
        }
    }
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
(ウィンドウに平滑化されたグレースケール画像が表示されます)

このような前処理を施すことで、後続のアルゴリズムが正確に動作しやすくなる工夫が可能になります。

動画加工処理のアルゴリズム

動画の加工処理は、静止画だけではなく動的な映像に対しても様々なエフェクトや補正を加えられる点が魅力です。

ここでは、画像変換、フィルタ処理、そしてより応用的な動画効果の実装について解説します。

画像変換および色調補正

多くの映像処理の工程では、色空間変換や、輝度・コントラストの調整が必要になります。

簡単な例として、動画フレームをグレースケールに変換する方法や、画像全体の明るさを調整する方法を紹介します。

BGRからグレースケールへの変換

カラー画像をグレースケール化することで、エッジ検出や特徴抽出などの処理がシンプルになります。

次のサンプルコードは、映像の各フレームに対してグレースケール変換を実施するものです。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <string>
// サンプルコード:BGR画像をグレースケールへ変換する
int main() {
    std::string videoPath = "sample_video.mp4";
    cv::VideoCapture cap(videoPath);
    if (!cap.isOpened()) {
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    cv::Mat frame, grayFrame;
    while (true) {
        cap >> frame;
        if (frame.empty()) break;
        cv::cvtColor(frame, grayFrame, cv::COLOR_BGR2GRAY);
        cv::imshow("Grayscale Frame", grayFrame);
        if (cv::waitKey(30) == 'q') break;
    }
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
(ウィンドウにグレースケール画像が表示されます)

グレースケール変換は、計算負荷を下げながら重要な情報を抽出する技法として重宝されます。

輝度・コントラストの調整

輝度やコントラストの補正は、対象物の認識精度向上や視覚的な調整のために行われます。

OpenCVでは、画像に対して係数をかけることで簡単に実現できます。

調整例として、以下のサンプルコードでは、映像の各フレームに対して明るさとコントラストの調整を行っています。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <string>
// サンプルコード:輝度とコントラストを調整する例
int main() {
    std::string videoPath = "sample_video.mp4";
    cv::VideoCapture cap(videoPath);
    if (!cap.isOpened()) {
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    cv::Mat frame, adjustedFrame;
    double alpha = 1.2; // コントラスト係数
    int beta = 20;      // 輝度補正値
    while (true) {
        cap >> frame;
        if (frame.empty()) break;
        // 各画素に対して alpha と beta を加えることで調整する
        frame.convertTo(adjustedFrame, -1, alpha, beta);
        cv::imshow("Adjusted Frame", adjustedFrame);
        if (cv::waitKey(30) == 'q') break;
    }
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
(ウィンドウに輝度とコントラストが調整された映像が表示されます)

このような補正技法を適用することで、映像全体の視認性が向上し、その後の処理がスムーズになります。

フィルタ処理による効果付与

映像に対してエッジ検出やノイズ除去といったフィルタ処理を施すことで、特定の効果を強調したり、余計なノイズの影響を軽減することができます。

Cannyエッジ検出の適用

Cannyエッジ検出は、映像中の物体の境界線を抽出するために頻繁に利用される手法です。

以下のサンプルコードでは、グレースケール変換後の映像に対してCanny処理を実装しています。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <string>
// サンプルコード:Cannyエッジ検出を適用する例
int main() {
    std::string videoPath = "sample_video.mp4";
    cv::VideoCapture cap(videoPath);
    if (!cap.isOpened()) {
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    cv::Mat frame, grayFrame, edges;
    while (true) {
        cap >> frame;
        if (frame.empty()) break;
        cv::cvtColor(frame, grayFrame, cv::COLOR_BGR2GRAY);
        cv::Canny(grayFrame, edges, 50, 150);
        cv::imshow("Canny Edges", edges);
        if (cv::waitKey(30) == 'q') break;
    }
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
(ウィンドウにCannyエッジ検出後の映像が表示されます)

この手法によって、オブジェクトの輪郭が明確になり、各種解析アルゴリズムの入力として利用しやすくなります。

ノイズ低減と平滑化処理

動画には、撮影環境によるノイズが付きやすく、これが解析結果に影響を与えることがあります。

平滑化処理として、メディアンフィルタやガウシアンフィルタが利用されます。

以下のサンプルコードは、平滑化処理を用いてノイズの影響を軽減する例です。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <string>
// サンプルコード:メディアンフィルタでノイズ低減を行う例
int main(){
    std::string videoPath = "sample_video.mp4";
    cv::VideoCapture cap(videoPath);
    if(!cap.isOpened()){
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    cv::Mat frame, medianFrame;
    while(true){
        cap >> frame;
        if(frame.empty()) break;
        // メディアンフィルタを用いてノイズを低減する
        cv::medianBlur(frame, medianFrame, 5);
        cv::imshow("Median Filter", medianFrame);
        if(cv::waitKey(30) == 'q') break;
    }
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
(ウィンドウにノイズが低減された映像が表示されます)

このような平滑化処理は、映像の品質向上やエラー検知の確度アップに貢献します。

動画効果の実装

さらに一歩進んだ加工として、映像に対して特殊な効果や解析の連携を行う方法があります。

ここでは、モザイク処理を顔認識と組み合わせた例や、フレーム間差分処理を紹介します。

モザイク処理と顔認識連携

映像内の特定領域、たとえば個人情報を隠すために顔にモザイク処理を施すケースが増えています。

OpenCVでは、顔認識機能と、検出された顔領域に対して画像処理を組み合わせることで、この効果を実現できます。

簡単なサンプルコードの例は下記となります(顔認識は事前に学習済みのカスケード分類器を用いる)。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <string>
int main(){
    std::string videoPath = "sample_video.mp4";
    cv::VideoCapture cap(videoPath);
    if(!cap.isOpened()){
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    // カスケード分類器の読み込み(顔認識用)
    cv::CascadeClassifier faceCascade;
    if(!faceCascade.load("haarcascade_frontalface_default.xml")){
        std::cerr << "カスケード分類器の読み込みに失敗しました" << std::endl;
        return -1;
    }
    cv::Mat frame;
    while(true){
        cap >> frame;
        if(frame.empty()) break;
        cv::Mat gray;
        cv::cvtColor(frame, gray, cv::COLOR_BGR2GRAY);
        std::vector<cv::Rect> faces;
        // 顔認識を実施する
        faceCascade.detectMultiScale(gray, faces, 1.1, 3, 0, cv::Size(30, 30));
        // 検出された顔領域にモザイク処理を適用する
        for(const auto &face : faces){
            cv::Mat faceROI = frame(face);
            // 小さく縮小してから再度拡大することでモザイク処理を実現する
            cv::resize(faceROI, faceROI, cv::Size(face.width/10, face.height/10));
            cv::resize(faceROI, faceROI, cv::Size(face.width, face.height), 0, 0, cv::INTER_NEAREST);
        }
        cv::imshow("Mosaic Face", frame);
        if(cv::waitKey(30) == 'q') break;
    }
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
(ウィンドウに検出された顔部分にモザイクが適用された映像が表示されます)

この技法はセキュリティやプライバシー保護の目的で広く使われています。

フレーム間差分処理

連続した映像フレーム間の差分を検出する方法も、動体検知などの解析に活用されます。

下記サンプルコードは、前フレームとの差分を計算し、動きのある領域を強調する例です。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <string>
// サンプルコード:フレーム間差分処理の例
int main(){
    std::string videoPath = "sample_video.mp4";
    cv::VideoCapture cap(videoPath);
    if(!cap.isOpened()){
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    cv::Mat frame, grayFrame, prevGray, diffFrame;
    bool isFirstFrame = true;
    while(true){
        cap >> frame;
        if(frame.empty()) break;
        cv::cvtColor(frame, grayFrame, cv::COLOR_BGR2GRAY);
        // 最初のフレームは前フレームとして設定する
        if(isFirstFrame){
            prevGray = grayFrame.clone();
            isFirstFrame = false;
            continue;
        }
        // 前フレームとの差分を計算する
        cv::absdiff(grayFrame, prevGray, diffFrame);
        prevGray = grayFrame.clone();
        cv::imshow("Frame Difference", diffFrame);
        if(cv::waitKey(30) == 'q') break;
    }
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
(ウィンドウに動きのある部分が強調表示された映像が確認できます)

この処理は、動きの検出や背景差分アルゴリズムのベースとして利用されることが多いです。

動画の書き出しとエンコード

映像を加工した後は、cv::VideoWriterを使って処理結果を新たな動画ファイルとして保存する工程が続きます。

ここでは、エンコードフォーマットや解像度、フレームレートの管理、エンコーダパラメータの調整について解説します。

VideoWriterの出力設定

出力動画の品質は、エンコードフォーマットや解像度、フレームレートなどの設定次第で変わってきます。

これらのパラメータは、用途に応じた映像品質を実現するために重要なポイントです。

エンコードフォーマットの選択

cv::VideoWriterでは、対象となる動画ファイルの拡張子や、fourccコードを用いてエンコードフォーマットを指定します。

たとえば、MJPG形式やMP4形式など、対応するフォーマットが選択できます。

サンプルコードでは、cv::VideoWriter::fourcc('M', 'J', 'P', 'G')を用いる例をご紹介します。

解像度とフレームレートの管理

入力動画と同じ解像度やフレームレートを維持することもあれば、意図的に変更することも可能です。

これにより、出力動画のファイルサイズや再生性能を調整できます。

エンコーダパラメータの調整

エンコードの際に、ビットレートや圧縮率を調整することで、動画の品質とファイルサイズのバランスが最適化されます。

ビットレートと圧縮率の設定

動画圧縮の際、ビットレートは画質を決める重要なパラメータです。

各映像フレームに対して適切な圧縮率を設定することで、高品質な出力を実現しつつ、ファイルサイズを抑える工夫が必要です。

品質管理と安定出力の工夫

突然のフレームドロップやエンコードエラーを防ぐため、映像出力時に安定したパラメータ管理を心がけるとよいです。

エンコード処理における各パラメータの調整結果をテストしながら、最適な設定を見極めるプロセスが大切です。

パフォーマンス最適化と最新技術活用

動画処理では、リアルタイム性を求められるケースもあるため、並列処理やハードウェアアクセラレーションを利用した最適化が求められます。

並列処理による高速化

マルチスレッド処理や非同期処理を実装することで、処理速度を向上させながらリアルタイム映像処理を実現できます。

マルチスレッド処理の実装

std::threadを用いたマルチスレッド処理によって、読み込みと処理を並行して行うことが可能です。

以下は、シンプルなマルチスレッド処理のサンプルコードです。

#include <opencv2/opencv.hpp>
#include <iostream>
#include <thread>
#include <mutex>
// サンプルコード:マルチスレッドでフレームを処理する例
std::mutex frameMutex;
cv::Mat sharedFrame;
bool running = true;
void processFrame() {
    while(running) {
        frameMutex.lock();
        if (!sharedFrame.empty()){
            cv::Mat processed;
            // サンプル処理:グレースケール変換
            cv::cvtColor(sharedFrame, processed, cv::COLOR_BGR2GRAY);
            cv::imshow("Processed Frame", processed);
        }
        frameMutex.unlock();
        if (cv::waitKey(30) == 'q') {
            running = false;
            break;
        }
    }
}
int main(){
    cv::VideoCapture cap("sample_video.mp4");
    if(!cap.isOpened()){
        std::cerr << "動画ファイルのオープンに失敗しました" << std::endl;
        return -1;
    }
    std::thread worker(processFrame);
    cv::Mat frame;
    while(running){
        cap >> frame;
        if(frame.empty()) break;
        frameMutex.lock();
        sharedFrame = frame.clone();
        frameMutex.unlock();
    }
    running = false;
    worker.join();
    cap.release();
    cv::destroyAllWindows();
    return 0;
}
(ウィンドウにグレースケールに変換された映像が表示されます)

この例では、読み込みと処理のタスクを分離することで、各処理の負荷分散が図られております。

非同期処理とバッファ管理

非同期処理やバッファによるフレームの一時保存を併用することで、データの取りこぼしや処理の遅延を防ぐことができます。

タスク間で効率的にフレームを受け渡す仕組みを構築する工夫が求められます。

ハードウェアアクセラレーションの利用

GPUを活用することで、CPUのみでの処理に比べ高速な演算が期待できます。

OpenCVのCUDAモジュールや他の最新ライブラリとの連携を試みることが推奨されます。

GPUによる動画処理の高速化

GPUを使った並列処理は、高解像度の動画やリアルタイム処理で特に効果を発揮します。

たとえば、CUDAを用いたエッジ検出や平滑化は、従来のCPU処理より高速に動作するケースが多いです。

最新ライブラリとの連携事例

TensorRTやOpenVINOなど、最新の最適化ライブラリと連携することで、動画解析の精度と速度がさらに向上します。

各ライブラリのサンプルコードや導入例を参考にしながら、適切なツールを選択することが望まれます。

従来手法との比較分析

新たな技術を導入する際は、従来の手法と性能を比較して、最適なアプローチを判断することが重要です。

処理速度と精度の評価

速度と精度の両面から各手法を評価し、実際の使用シーンにおけるパフォーマンスを検証します。

試験的なテストケースを用意して、各パラメータの影響を見極めるとよいでしょう。

最適化アプローチの検討

各映像処理パイプラインのボトルネックを分析し、最適化のためのアプローチを検討します。

並列処理、ハードウェアアクセラレーション、そしてアルゴリズム自体の改良など、複数の視点からのアプローチが有用です。

応用事例と実践的活用シーン

動画処理技術は多岐にわたる分野で活用され、各シーンに合わせた工夫が施されます。

ここでは、具体的な応用事例をいくつか紹介します。

セキュリティ映像解析の適用例

監視映像では、動体検知や異常検知が求められる状況が多くあります。

以下は、セキュリティ用途に関連する処理の例です。

動体検知アルゴリズムの実例

フレーム間差分処理や背景差分アルゴリズムを適用して、動体検知を実現します。

検出した動体領域を強調することで、画面上で即座に確認できる仕組みが実装されることが多いです。

異常検知システムとの連動

映像解析結果を、異常検知システムに連動させる例では、イベント駆動型のアラートやログ記録が行われます。

映像中の特定パターンを検出することで、セキュリティの確保に寄与する取り組みが進んでいます。

自動運転向け映像処理の利用例

自動運転システムでは、リアルタイムに物体検出やシーン認識を行う必要があります。

映像解析を用いて周囲の車両や歩行者の位置を把握する技術が注目されています。

リアルタイム物体検出の実装

ニューラルネットワークを組み合わせた物体検出や、従来のHOG特徴量を用いた手法が研究されています。

実際の走行環境での検出結果に応じた判断アルゴリズムと連携することで、高速かつ安全な動作が可能になります。

シーン認識と動作予測の工夫

映像から抽出された特徴量をもとに、周囲の状況や物体の動きを予測する取り組みも多く見受けられます。

これにより、自動運転システムは複雑な状況判断に柔軟に対応できるようになります。

マルチカメラ映像統合の実践

複数のカメラから同時に取得される映像を統合することで、広範囲の監視や解析を行うシステムが構築されています。

同時配信処理の構築

複数の映像ソースからのフレームを迅速に取得し、統合して表示する場合、同期処理が重要となります。

各カメラのタイムスタンプをもとに正確な映像のタイミングを合わせる工夫が求められます。

大規模映像解析システムの事例

大規模な映像解析では、クラウド環境や分散処理技術を用いるケースが増えています。

各映像処理ノードで個別に解析を行い、その結果を中央サーバに集約するシステム設計が多く採用されています。

まとめ

ここまで、動画の読み込みからフレーム取得、前処理、加工処理、出力、パフォーマンスの最適化、最新技術の活用、そして応用シーンまで幅広く解説してきました。

さまざまな技術要素を組み合わせることで、用途に応じた最適な動画処理システムを構築できる可能性がある点に注目したいです。

それぞれの処理は、実際にサンプルコードや実験を通して調整しながら、自分のプロジェクトに最適な方法を見つける参考になれば幸いです。

関連記事

Back to top button
目次へ