如何从源代码编译我自己的 glibc C 标准库并使用它？

问题描述：

我正在尝试编译自己的 glibc。我有一个目录glibc，其中包含glibc我从互联网上下载的源代码。我从该目录中输入mkdir ../build-glibc。现在build-glibc我从该目录中输入../glibc/configure，执行配置。现在我不确定如何调用make。我无法从glibc目录中调用它，因为它没有配置集，我也不能从中调用它build-glibc，因为 makefile 不在该目录中。我该如何解决这个问题？

解决方案 1：

设置 1：不带专用 GCC 的 glibc

该设置可能有效并且很快，因为它不需要重新编译整个 GCC 工具链，只需要 glibc。

我对此设置的唯一问题是，我还没有找到一种好方法来使用由我们的 glibc 提供的运行时对象（例如crt1.o、crti.o和）crtn.o，目前我使用的是主机对象。这在以下网址提到：https ://sourceware.org/glibc/wiki/Testing/Builds ?action=recall&rev=21#Compile_against_glibc_in_an_installed_location 这些对象执行 glibc 所依赖的早期设置，因此如果事情以奇妙而微妙的方式崩溃，我不会感到惊讶。请参阅下面解决此问题的尝试。

构建 glibc 并在本地安装：

git clone git://sourceware.org/git/glibc.git
cd glibc
git checkout glibc-2.32
mkdir build
cd build
export glibc_install="$(pwd)/install"
../configure --prefix "$glibc_install"
make -j `nproc`
make install -j `nproc`

设置 1：验证构建

测试_glibc

#define _GNU_SOURCE
#include <assert.h>
#include <gnu/libc-version.h>
#include <stdatomic.h>
#include <stdio.h>
#include <threads.h>

atomic_int acnt;
int cnt;

int f(void* thr_data) {
    for(int n = 0; n < 1000; ++n) {
        ++cnt;
        ++acnt;
    }
    return 0;
}

int main(int argc, char **argv) {
    /* Basic library version check. */
    printf("gnu_get_libc_version() = %s
", gnu_get_libc_version());

    /* Exercise thrd_create from -pthread,
     * which is not present in glibc 2.27 in Ubuntu 18.04.
     * https://stackoverflow.com/questions/56810/how-do-i-start-threads-in-plain-c/52453291#52453291 */
    thrd_t thr[10];
    for(int n = 0; n < 10; ++n)
        thrd_create(&thr[n], f, NULL);
    for(int n = 0; n < 10; ++n)
        thrd_join(thr[n], NULL);
    printf("The atomic counter is %u
", acnt);
    printf("The non-atomic counter is %u
", cnt);
}

编译并运行test_glibc.sh：

#!/usr/bin/env bash
set -eux
gcc \n  -L "${glibc_install}/lib" \n  -I "${glibc_install}/include" \n  -Wl,--rpath="${glibc_install}/lib" \n  -Wl,--dynamic-linker="${glibc_install}/lib/ld-linux-x86-64.so.2" \n  -std=c11 \n  -o test_glibc.out \n  -v \n  test_glibc.c \n  -pthread \n;
ldd ./test_glibc.out
./test_glibc.out

命令改编自https://sourceware.org/glibc/wiki/Testing/Builds?action=recall&rev=21#Compile_against_glibc_in_an_installed_location

该程序输出预期的内容：

gnu_get_libc_version() = 2.32
The atomic counter is 10000
The non-atomic counter is 8674

ldd输出确认ldd我们刚刚构建的和库确实正在按预期使用：

+ ldd test_glibc.out
        linux-vdso.so.1 (0x00007ffe4bfd3000)
        libpthread.so.0 => /home/ciro/glibc/build/install/lib/libpthread.so.0 (0x00007fc12ed92000)
        libc.so.6 => /home/ciro/glibc/build/install/lib/libc.so.6 (0x00007fc12e9dc000)
        /home/ciro/glibc/build/install/lib/ld-linux-x86-64.so.2 => /lib64/ld-linux-x86-64.so.2 (0x00007fc12f1b3000)

编译gcc调试输出显示我的主机运行时对象已被使用，这正如前面提到的那样很糟糕，但我不知道如何解决它，例如它包含：

COLLECT_GCC_OPTIONS=/usr/lib/gcc/x86_64-linux-gnu/7/../../../x86_64-linux-gnu/crt1.o

设置1：修改glibc

现在让我们修改 glibc：

diff --git a/nptl/thrd_create.c b/nptl/thrd_create.c
index 113ba0d93e..b00f088abb 100644
--- a/nptl/thrd_create.c
+++ b/nptl/thrd_create.c
@@ -16,11 +16,14 @@
    License along with the GNU C Library; if not, see
    <http://www.gnu.org/licenses/>.  */

+#include <stdio.h>
+
 #include "thrd_priv.h"

 int
 thrd_create (thrd_t *thr, thrd_start_t func, void *arg)
 {
+  puts("hacked");
   _Static_assert (sizeof (thr) == sizeof (pthread_t),
                   "sizeof (thr) != sizeof (pthread_t)");

然后重新编译并重新安装 glibc，并重新编译并重新运行我们的程序：

cd glibc/build
make -j `nproc`
make -j `nproc` install
./test_glibc.sh

我们看到了hacked预期打印的几次。

这进一步证实了我们实际上使用的是自己编译的glibc，而不是主机的glibc。

在 Ubuntu 20.10 上测试。

设置 1：尝试使用正确的crt*对象

https://sourceware.org/glibc/wiki/Testing/Builds?action=recall&rev=21#Compile_against_glibc_in_an_installed_location建议添加--sysroot到gcc命令中，但是：

• 根据日志，它并没有真正将对象改变为我们的对象

• 导致编译失败，/usr/bin/ld: cannot find libgcc_s.so.1可能是因为sysroot这个 GCC 提供的对象使用了 gets，而我们在 sysroot 中没有这个对象，因为我们只构建了 glibc

在https://stackoverflow.com/a/66634184/895245 ZeZNiQ 提供了一种可能正确的解决方法，方法是传递：

-nostartfiles

后面跟着所有对象。您只需从完整命令中提取正确的对象-nostartfiles并手动传递它们即可。

例如，在我的 amd64 机器上，使用的对象与他的 32 位命令不同，因此这有点麻烦。

参考书目：

• 如何更改 GCC 的 crti.o 默认搜索目录？

• https://gcc.gnu.org/legacy-ml/gcc-help/2015-02/msg00016.html

• https://gcc.gnu.org/legacy-ml/gcc-help/2001-11/msg00029.html

设置 2：crosstool-NG pristine 设置

这是设置 1 的替代方案，也是我迄今为止实现的最正确的设置：据我观察到，一切都是正确的，包括 C 运行时对象，例如crt1.o、crti.o和crtn.o。

在此设置中，我们将编译使用我们想要的 glibc 的完整专用 GCC 工具链。

这种方法的唯一缺点是构建时间会更长。但我不会冒险使用更短的方法来设置生产环境。

crosstool-NG是一组脚本，它可以为我们从源代码下载并编译所有内容，包括 GCC、glibc 和 binutils。

是的，GCC 构建系统太糟糕了，我们需要一个单独的项目。

这种设置并不完美，因为crosstool-NG 不支持在没有额外-Wl标志的情况下构建可执行文件，这感觉很奇怪，因为我们已经构建了 GCC 本身。但一切似乎都正常，所以这只是一个不便之处。

获取 crosstool-NG，配置并构建它：

git clone https://github.com/crosstool-ng/crosstool-ng
cd crosstool-ng
git checkout a6580b8e8b55345a5a342b5bd96e42c83e640ac5
export CT_PREFIX="$(pwd)/.build/install"
export PATH="/usr/lib/ccache:${PATH}"
./bootstrap
./configure --enable-local
make -j `nproc`
./ct-ng x86_64-unknown-linux-gnu
./ct-ng menuconfig
env -u LD_LIBRARY_PATH time ./ct-ng build CT_JOBS=`nproc`

构建过程大约需要三十分钟到两个小时。

我能看到的唯一强制配置选项是使其与主机内核版本匹配以使用正确的内核头。使用以下命令查找主机内核版本：

uname -a

它向我展示了：

4.15.0-34-generic

所以menuconfig我这么做：

• Operating System

  • Version of linux

所以我选择：

4.14.71

这是第一个相同或更旧的版本。它必须是较旧的版本，因为内核是向后兼容的。

设置 2：可选配置

.config我们生成的有./ct-ng x86_64-unknown-linux-gnu：

CT_GLIBC_V_2_27=y

要改变这种情况，请执行menuconfig以下操作：

• C-library

• Version of glibc

保存.config并继续构建。

或者，如果您想使用自己的 glibc 源，例如使用最新 git 中的 glibc，请按如下方式进行：

• Paths and misc options

  • Try features marked as EXPERIMENTAL：设置为 true

• C-library

  • Source of glibc

    • Custom location：说是的

    • Custom location

      • Custom source location：指向包含 glibc 源的目录

其中 glibc 被克隆为：

git clone git://sourceware.org/git/glibc.git
cd glibc
git checkout glibc-2.28

设置 2：测试一下

构建所需的工具链后，请使用以下命令对其进行测试：

#!/usr/bin/env bash
set -eux
install_dir="${CT_PREFIX}/x86_64-unknown-linux-gnu"
PATH="${PATH}:${install_dir}/bin" \n  x86_64-unknown-linux-gnu-gcc \n  -Wl,--dynamic-linker="${install_dir}/x86_64-unknown-linux-gnu/sysroot/lib/ld-linux-x86-64.so.2" \n  -Wl,--rpath="${install_dir}/x86_64-unknown-linux-gnu/sysroot/lib" \n  -v \n  -o test_glibc.out \n  test_glibc.c \n  -pthread \n;
ldd test_glibc.out
./test_glibc.out

一切似乎都按照设置 1 中的操作进行，只不过现在使用了正确的运行时对象：

COLLECT_GCC_OPTIONS=/home/ciro/crosstool-ng/.build/install/x86_64-unknown-linux-gnu/bin/../x86_64-unknown-linux-gnu/sysroot/usr/lib/../lib64/crt1.o

设置 2：失败的高效 glibc 重新编译尝试

使用 crosstool-NG 似乎是不可能的，如下所述。

如果您只是重建；

env -u LD_LIBRARY_PATH time ./ct-ng build CT_JOBS=`nproc`

那么您对自定义 glibc 源位置的更改会被考虑在内，但它会从头开始构建所有内容，因此无法用于迭代开发。

如果我们这样做：

./ct-ng list-steps

它很好地概述了构建步骤：

Available build steps, in order:
  - companion_tools_for_build
  - companion_libs_for_build
  - binutils_for_build
  - companion_tools_for_host
  - companion_libs_for_host
  - binutils_for_host
  - cc_core_pass_1
  - kernel_headers
  - libc_start_files
  - cc_core_pass_2
  - libc
  - cc_for_build
  - cc_for_host
  - libc_post_cc
  - companion_libs_for_target
  - binutils_for_target
  - debug
  - test_suite
  - finish
Use "<step>" as action to execute only that step.
Use "+<step>" as action to execute up to that step.
Use "<step>+" as action to execute from that step onward.

因此，我们看到 glibc 步骤与几个 GCC 步骤交织在一起，最明显的libc_start_files是在 之前cc_core_pass_2，这可能是与 一起最昂贵的步骤cc_core_pass_1。

为了仅构建一个步骤，您必须首先在.config初始构建选项中设置“保存中间步骤”：

• Paths and misc options

  • Debug crosstool-NG

    • Save intermediate steps

然后你可以尝试：

env -u LD_LIBRARY_PATH time ./ct-ng libc+ -j`nproc`

但不幸的是，+需要如上所述：https：//github.com/crosstool-ng/crosstool-ng/issues/1033#issuecomment-424877536

但请注意，在中间步骤重新启动会将安装目录重置为该步骤期间的状态。即，您将拥有一个重建的 libc - 但没有使用此 libc 构建的最终编译器（因此，也没有像 libstdc++ 这样的编译器库）。

并且基本上仍然使得重建速度太慢而无法进行开发，并且我不知道如何在不修补 crosstool-NG 的情况下克服这个问题。

此外，从libc步骤开始似乎没有从再次复制源Custom source location，进一步使得该方法无法使用。

奖励：stdlibc++

如果您对 C++ 标准库也感兴趣，那么还有一个额外好处：如何编辑和重新构建 GCC libstdc++ C++ 标准库源？

解决方案 2：

如果脚本成功完成，将会Makefile存在于您的目录中。build-glibc`configure`

如果在期间一切似乎都进展顺利configure，但仍然没有Makefile，那么你可能错过了一个特质：

在为 glibc 执行 时configure，通常需要提供替代位置--prefix，因为安装到默认位置 ( /usr/local) 可能会损坏系统。如果您不提供，则需要打开--disable-sanity-checks。

如果不是这种情况，请查找一个config.log文件并读取其内容。

解决方案 3：

添加到Ciro之前的回答/解决方案https://stackoverflow.com/a/52454710/4726668：

@CiroSantilli 编辑您的答案会返回“建议的编辑队列已满”。您在test_glibc.sh脚本中调用的 ldd 脚本指向主机动态链接器：/home/ciro/glibc/build/install/lib/ld-linux-x86-64.so.2 => /lib64/ld-linux-x86-64.so.2 (0x00007fc12f1b3000)。要解决此问题，请在中test_glibc.sh更改ldd为。这将要求您将构建的*.o 文件也${glibc_install}/bin/ldd添加到脚本中：crt

-nostartfiles \n${glibc_install}/lib/crti.o \n${glibc_install}/lib/crtn.o \n${glibc_install}/lib/crt1.o \n

在我的 GNU/Linux i386/i686 (32 位 x86 架构) 机器上，我的工作如下test_glibc.sh：

#!/usr/bin/env bash
set -eux
gcc \n  -L "${glibc_install}/lib" \n  -I "${glibc_install}/include" \n  -Wl,--rpath="${glibc_install}/lib" \n  -Wl,--dynamic-linker="${glibc_install}/lib/ld-linux.so.2" \n  -std=c11 \n  -nostartfiles \n  ${glibc_install}/lib/crti.o \n  ${glibc_install}/lib/crtn.o \n  ${glibc_install}/lib/crt1.o \n  -o test_glibc.out \n  -v \n  test_glibc.c \n  -pthread \n;
${glibc_install}/bin/ldd ./test_glibc.out
./test_glibc.out

解决方案 4：

最后一次测试是glibc/version.h在 2021 年 6 月 27 日在 Ubuntu 20.04 上，使用 glibc 开发版本 2.33.9000（参见）。

如何下载和构建 glibc，并运行其基准测试

您可以在此处手动获取 glibc 源代码：https: //www.gnu.org/software/libc/sources.html：

git clone https://sourceware.org/git/glibc.git
cd glibc
git checkout master

GitHub 上的第三方镜像：https://github.com/bminor/glibc/tree/master/benchtests

参见：

1. https://kazoo.ga/a-simple-tool-to-test-malloc-performance/

如果您希望手动构建 glibc 及其基准测试，请按如下方式操作：

# IMPORTANT: begin AT THE SAME DIRECTORY LEVEL as the `glibc` source code 
# directory, NOT inside the `glibc` source code dir! In other words, if 
# you are in the correct dir, running `ls` will show the `glibc` source
# code dir (that you just cloned) inside the dir you are in.
mkdir -p glibc-build
mkdir -p glibc-install
cd glibc-build
../glibc/configure --prefix="$(realpath "../glibc-install")"
time make -j8  # build with 8 threads (jobs); on a fast laptop this takes ~3 min.
time make install # (optional: install to the `glibc-install` dir you created)

# Build the benchtests (everything inside the `glibc/benchtests` dir) too;
# see the makefile 'glibc/benchtests/Makefile' for more build commands. 
time make bench-build -j8
# Now you have this executable file you can use for malloc speed tests, for instance!: 
#       ../glibc-build/benchtests/bench-malloc-thread

# To build **and run** all glibc benchtests, do:
time make bench

参考：

1. https://www.gnu.org/software/libc/manual/html_node/Configuring-and-compiling.html

2. https://kazoo.ga/a-simple-tool-to-test-malloc-performance/

3. https://github.com/f18m/malloc-benchmarks/blob/master/Makefile#L122-L129：通过研究这个makefile目标，我学到了很多东西：

$(glibc_install_dir)/lib/libc.so.6:
@echo "Building GNU libc... go get a cup of coffee... this will take time!"
mkdir -p $(glibc_build_dir)
cd $(glibc_build_dir) && \n    ../glibc/configure --prefix=$(glibc_install_dir) && \n    make $(parallel_flags) && \n    make install
[ -x $(glibc_build_dir)/benchtests/bench-malloc-thread ] && echo "GNU libc benchmarking utility is ready!" || echo "Cannot find GNU libc benchmarking utility! Cannot collect benchmark results"

1. 如何从源代码编译我自己的 glibc C 标准库并使用它？

关键词：如何从源代码构建和运行 glibc 及其基准测试，包括 malloc 基准测试；在 Linux ubuntu 上从源代码构建 glibc