vpxenc crashes for 10bit input

[GoogleCodeExporter]

Command lines tested: 

[DEBUG]: --frame-parallel=1 --tile-columns=0 --tile-rows=0 --lossless=0 
--error-resilient=0 --min-q=0 --max-q=30 --kf-min-dist=5 --kf-max-dist=5 
--profile=2 --input-bit-depth=10 --bit-depth=10 -y -D --cpu-used=0 --codec=vp9 
--psnr --good --verbose --ivf --output=stream.vp9 --fps=25/1 --width=640 
--height=360 --limit=20 old_town_cross_360p_10.y4m
[DEBUG]: --frame-parallel=1 --tile-columns=0 --tile-rows=0 --lossless=0 
--error-resilient=0 --min-q=0 --max-q=30 --kf-min-dist=9 --kf-max-dist=9 
--profile=2 --input-bit-depth=10 --bit-depth=10 -y -D --cpu-used=0 --codec=vp9 
--psnr --good --verbose --ivf --output=stream.vp9 --fps=25/1 --width=640 
--height=360 --limit=20 old_town_cross_360p_10.y4m
[DEBUG]: --frame-parallel=1 --tile-columns=0 --tile-rows=0 --lossless=0 
--error-resilient=0 --min-q=0 --max-q=30 --kf-min-dist=10 --kf-max-dist=10 
--profile=2 --input-bit-depth=10 --bit-depth=10 -y -D --cpu-used=0 --codec=vp9 
--psnr --good --verbose --ivf --output=stream.vp9 --fps=25/1 --width=640 
--height=360 --limit=20 old_town_cross_360p_10.y4m
[DEBUG]: --frame-parallel=1 --tile-columns=0 --tile-rows=0 --lossless=0 
--error-resilient=0 --min-q=0 --max-q=30 --kf-min-dist=15 --kf-max-dist=15 
--profile=2 --input-bit-depth=10 --bit-depth=10 -y -D --cpu-used=0 --codec=vp9 
--psnr --good --verbose --ivf --output=stream.vp9 --fps=25/1 --width=640 
--height=360 --limit=20 old_town_cross_360p_10.y4m
[DEBUG]: --frame-parallel=1 --tile-columns=0 --tile-rows=0 --lossless=0 
--error-resilient=0 --min-q=0 --max-q=30 --kf-min-dist=21 --kf-max-dist=21 
--profile=2 --input-bit-depth=10 --bit-depth=10 -y -D --cpu-used=0 --codec=vp9 
--psnr --good --verbose --ivf --output=stream.vp9 --fps=25/1 --width=640 
--height=360 --limit=20 old_town_cross_360p_10.y4m
[DEBUG]: --frame-parallel=0 --tile-columns=1 --tile-rows=0 --lossless=0 
--error-resilient=0 --min-q=0 --max-q=30 --kf-min-dist=5 --kf-max-dist=5 
--profile=2 --input-bit-depth=10 --bit-depth=10 -y -D --cpu-used=0 --codec=vp9 
--psnr --good --verbose --ivf --output=stream.vp9 --fps=25/1 --width=640 
--height=360 --limit=10 park_joy_360p_10.y4m
[DEBUG]: --frame-parallel=0 --tile-columns=1 --tile-rows=0 --lossless=0 
--error-resilient=0 --min-q=0 --max-q=30 --kf-min-dist=5 --kf-max-dist=5 
--profile=2 --input-bit-depth=10 --bit-depth=10 -y -D --cpu-used=0 --codec=vp9 
--psnr --good --verbose --ivf --output=stream.vp9 --fps=25/1 --width=1920 
--height=1080 --limit=10 park_joy_1080p_10.y4m
[DEBUG]: --frame-parallel=0 --tile-columns=1 --tile-rows=0 --lossless=0 
--error-resilient=0 --min-q=0 --max-q=30 --kf-min-dist=5 --kf-max-dist=5 
--profile=2 --input-bit-depth=12 --bit-depth=12 -y -D --cpu-used=0 --codec=vp9 
--psnr --good --verbose --ivf --output=stream.vp9 --fps=25/1 --width=640 
--height=360 --limit=10 park_joy_360p_12.y4m
[DEBUG]: --frame-parallel=0 --tile-columns=1 --tile-rows=0 --lossless=0 
--error-resilient=0 --min-q=0 --max-q=30 --kf-min-dist=5 --kf-max-dist=5 
--profile=2 --input-bit-depth=12 --bit-depth=12 -y -D --cpu-used=0 --codec=vp9 
--psnr --good --verbose --ivf --output=stream.vp9 --fps=25/1 --width=1920 
--height=1080 --limit=10 park_joy_1080p_12.y4m

In general, change --kf-min/max-dist to 2/3 or test --cpu-used to value other 0 
helps. 

Original issue reported on code.google.com by ya...@google.com on 1 Dec 2014 at 5:04

[GoogleCodeExporter]

This seems to have been caused by the changes in 
https://gerrit.chromium.org/gerrit/#/c/72056/3

A macro was expanded, but without noticing that the macro was defined 
differently for highbitdepth and 8bit.

I've submitted a patch here https://gerrit.chromium.org/gerrit/#/c/73136/ that 
can be used to fix this.

Original comment by peter.de...@gmail.com on 2 Dec 2014 at 12:31

[GoogleCodeExporter]

Thanks, Peter, for looking into this and uploading the fix. 

Original comment by ya...@google.com on 2 Dec 2014 at 5:16

[GoogleCodeExporter]

Original comment by ya...@google.com on 2 Dec 2014 at 5:16

• Changed state: Started

[GoogleCodeExporter]

Original comment by ya...@google.com on 2 Dec 2014 at 5:28

[GoogleCodeExporter]

https://gerrit.chromium.org/gerrit/#/c/73136/

Original comment by debar...@google.com on 2 Dec 2014 at 11:58

• Changed state: Fixed